Британцев обманывают в соцсетях с помощью deepfake-видео с известным телеведущим

Известный британский телеведущий Мартин Льюис, широко известный в Соединённом Королевстве благодаря своим советам по финансовой грамотности и экономии денежных средств, обвинил компанию Meta * в недостаточном контроле за мошеннической интернет-рекламой, после того как на платформе Facebook * появилось видео с его поддельным образом, рекламирующее инвестиционную аферу.

Видео было создано с помощью технологии глубоких подделок (deepfake), которая позволяет заменять лица и голоса людей на видеозаписях. На видео Льюис якобы рекомендовал инвестиционную схему «Quantum AI», которую якобы поддерживает Илон Маск, пишет Securitylab.

Льюис быстро опроверг свою причастность к данному видео в своих социальных сетях. «Это пугающе, это первая афера с моим участием, в которой использовали технологию глубокого подделывания», — написал он в Twitter **. «Правительство и регуляторы должны ужесточить контроль над крупными технологическими компаниями, которые публикуют такие опасные подделки. Люди могут потерять деньги, и это разрушит их жизни», — добавил телеведущий.

В настоящее время в Верхней палате парламента Великобритании обсуждается законопроект «О безопасности в интернете», который уже был дополнен положениями о рекламе мошеннических схем.

Льюис никогда не занимался рекламой или продвижением инвестиций и призвал своих подписчиков игнорировать видео, которое распространялось в основном через Facebook и Instagram *.

«У мошенников есть видео- и аудиотехнологии, которые полностью копируют моё лицо и голос. Эти люди пытаются испортить и уничтожить мою репутацию, чтобы выманивать деньги у наивных людей», — заявил Льюис.

Один из представителей Meta заявил, что социальная сеть быстро удалила оскорбительную рекламу: «Мы не разрешаем такого рода рекламу на наших платформах, и оригинальное видео было проактивно удалено нашими командами. Мы также удалили несколько копий рекламы, использующих то же изображение».

Несмотря на скорость реагирования со стороны Meta инцидент подчёркивает, насколько совершенной стала технология дипфейк за последние годы. «Люди не осознают, насколько продвинута технология глубокого подделывания на основе ИИ и насколько она демократизирована. ИИ всё чаще используется злоумышленниками для создания убедительных подделок, чтобы обойти распознавание голоса», — объяснил Ник Франс, технический директор по SSL в компании Sectigo.

«По мере того, как пароли используются всё реже, биометрия становится доверенным способом проверки личности. Это имеет смысл. Но по мере того, как подделки становятся всё распространённее, некоторые биометрические методы аутентификации могут стать бесполезными», — добавил Франс.

* Компания Meta и её продукты (Instagram и Facebook) признаны экстремистскими, их деятельность запрещена на территории РФ.
** Социальная сеть запрещена на территории Российской Федерации.