Один из документов от Командования специальных операций США (SOCOM), представляет собой почти беспрецедентный случай, когда американское правительство открыто сигнализирует о своем желании использовать крайне противоречивую технологию в наступательных целях.
Deepfake — это технология генерации поддельных видео, в которых лица людей могут очень правдоподобно заменяться на чужие при помощи искусственного интеллекта. При грамотном подходе к процессу Deepfake-специалисты могут создать крайне реалистичные и вводящие в заблуждение материалы, на которых, например условный политический лидер говорит или делает то, чего никогда не позволил бы сделать реальный человек, занимающий эту должность. Вот небольшой пример, как реалистично может выглядеть грамотно созданный Deepfake-ролик. Технология имеет огромный потенциал в создании фальшивых новостей, которые можно использовать для политических манипуляций.
В отчёте The Intercept подробно описывается недавнее открытие, которое было обнаружено экспертами в одном из файлов правительственных контрактов SOCOM, содержащем различные гаджеты и методы, которые спецназ планирует использовать в своих военных наступательных кампаниях. Это передает Securitylab. Основное внимание в этом документе уделяется созданию поддельных видеороликов и их распространению в иностранных средствах массовой информации. Согласно планам американского правительства, это будет новая эра информационного противостояния с использованием всех возможностей современного Интернета.
В документе также упоминается возможность предварительного взлома правительственных и прочих иностранных учреждений, а также продолжительного отслеживания новостного потока для генерации таких материалов, в которое местное население безоговорочно поверит, приняв за чистую правду.
Эксперты и прочие люди, тесно знакомые с Deepfake, уже активно выступают против планов правительства США использовать эту технологию в своих кампаниях. С бурным развитием искусственного интеллекта и нейросетей людям и так нелегко отделять правдивую информацию от ложной, а когда производство Deepfake-видеороликов поставят на поток, даже подумать сложно, к чему это может привести.
Одно можно сказать точно, массовое распространение Deepfake-видеороликов в сети точно не поспособствует большему доверию со стороны простых американских граждан, особенно если и политические соперники США тоже начнут применять подобные методы дезинформации.