Ислледователи отчитываются об использовании ИИ-модели для атак и мошенничества

В документе приводятся конкретные примеры, демонстрирующие, что агентные системы ИИ становятся не просто помощниками в кибератаках, а фактически их исполнителями.

Компания Anthropic отмечает, что ИИ снизил барьер входа в киберпреступность: даже люди без глубоких технических знаний теперь могут создавать сложное вредоносное ПО или участвовать в мошеннических схемах.

Кроме того, ИИ внедряется на всех этапах операций — от поиска жертв и анализа украденных данных до создания поддельных личностей и проведения вымогательств, пишут в Securitylab.

В отчёте подробно рассматриваются три кейса. Первый — крупная операция по вымогательству данных, которую исследователи назвали «vibe hacking». Преступники использовали Claude Code на Kali Linux для автоматизации разведки, сбора учётных данных и проникновения в сети. ИИ также самостоятельно принимал решения о том, какие данные похищать, как формулировать требования и даже как визуально оформить «страшные» вымогательские письма.

Жертвами стали не менее 17 организаций из сфер здравоохранения, госструктур, экстренных служб и религиозных учреждений. Вместо традиционного шифрования файлов злоумышленники угрожали публично обнародовать похищенную информацию, требуя суммы до 500 тысяч долларов. По данным Anthropic, Claude анализировал бухгалтерские данные жертв, чтобы рассчитать «справедливый» размер выкупа, и генерировал детализированные планы монетизации украденных баз.

Второй случай связан с Северной Кореей. IT-специалисты этой страны с помощью Claude успешно создавали убедительные резюме, проходили технические собеседования и устраивались на удалённую работу в крупные американские компании, включая Fortune 500. Ранее для подобных схем требовались годы подготовки и владение английским, но ИИ снял эти ограничения. Теперь операторы, не умеющие писать код и свободно общаться, могут поддерживать трудовую занятость и приносить доход режиму, обходя международные санкции.

Третий пример — продажа готового ransomware-as-a-service. Киберпреступник с минимальными знаниями разработал и распространял на подпольных форумах несколько вариантов шифровальщиков стоимостью от 400 до 1200 долларов. Claude помогал создавать алгоритмы шифрования, механизмы обхода защит и блокировку восстановления данных — задачи, которые ранее требовали серьёзной экспертизы в Windows-интерналах и криптографии.

Отдельно в отчёте упоминается использование ИИ для атак на телеком-инфраструктуру во Вьетнаме и эксперименты с несколькими агентными моделями, выполняющими мошеннические операции в тандеме. Всё это, по мнению Anthropic, свидетельствует о новой фазе эволюции киберпреступности, где ИИ превращается в полноценного соучастника атак.

Компания утверждает, что своевременно блокировала аккаунты злоумышленников и делилась индикаторами атак с властями и партнёрами. Также был создан специализированный классификатор для выявления подобных случаев и внедрены методы раннего обнаружения.