Контакты
Подписка 2024
ITSEC 2024
Персональные данные в 2025 году: новые требования и инструменты. 16 октября, Москва, Форум ITSEC 2024
Регистрируйтесь и приходите!

Киберпреступники используют API ChatGPT для обхода контентных ограничений

09/02/23

Исследователи безопасности из ИБ-компании Check Point Research заявили, что хакеры разработали способ обойти ограничения ChatGPT и используют его для продажи услуг, которые позволяют киберпреступникам создавать вредоносные программы и фишинговые электронные письма.

Этот метод работает с использованием API ChatGPT, а не веб-интерфейса. ChatGPT делает API доступным для разработчиков, чтобы они могли интегрировать ИИ-бота в свои приложения, в том числе, в Telegram каналы, пишут в Securitylab. Оказывается, API-версия не налагает контентных ограничений и позволяет свободно создавать вредоносный контент, такой как фишинговые электронные письма и вредоносный код.

Пользователь на одном форуме сейчас продает услугу, которая сочетает в себе API ChatGPT и мессенджер Telegram. Первые 20 запросов бесплатны, а затем $5,50 за каждые 100 запросов.

dufdrihj547lq692u1qxllxsl7wvop8g

Исследователи Check Point протестировали способ обхода ограничений и в результате составили: фишинговое письмо и скрипт, похищающий PDF-документы с зараженного компьютера и отправляющий их злоумышленнику по FTP.

Кроме того, другие участники форума бесплатно публикуют небольшой bash-скрипт, который обходит ограничения ChatGPT и использует его для любых вредоносных действий, например, для разработки вредоносных программ.

yjm28b3k1s9n0fn5mw1v3o1befuwi4fm

Представители OpenAI, компании-разработчика ChatGPT, не ответили на вопрос, знает ли компания о результатах исследования и планирует ли она изменить интерфейс API.

Темы:Искусственный интеллектУгрозыCheck Pointфишинг
Безопасная разработка
Москва | 15 октября 2024 | Доверенные решения для защиты российских ОС на базе Linux и миграции
Регистрируйтесь и приходите на Форум ITSEC 2024
Статьи по темеСтатьи по теме

  • Кто зарабатывает на вэйлинге в России?
    Алексей Гусев, старший советник председателя правления банка “ЦентроКредит”, преподаватель РТУ РУДН и НИЯУ МИФИ
    Вэйлинг – специализированный и таргетированный вариант привычного фишинга, нацеленный на VIP-клиентов, относится к не столь распространенному и потому редко упоминаемому виду. Однако в последнее время хакеры начинают обращать на него внимание, а его методики используются в качестве базы для более сложного таргетированного фишинга.
  • Управление уязвимостями с помощью ИИ
    Андрей Макаренко, руководитель отдела по развитию бизнеса Angara Security
    Внедрение ИИ в инструменты управления уязвимостями способно революционизировать эту область и по-новому распределить задачи между оператором и системой
  • Новые горизонты защиты: как ИИ революционизирует информационную безопасность
    Юрий Иванов, технический директор ООО “АВ Софт”, руководитель направления машинного обучения, к.т.н.
    Юрий Иванов, технический директор ООО “АВ Софт”, руководитель направления машинного обучения, к.т.н., поделился своим опытом реального применения элементов ИИ в продуктах для информационной безопасности.
  • 5 атак нового поколения, актуальных в 2023 году
    Александра Соколова, редактор Cloud Networks
    Технологии развиваются беспрецедентными темпами, и, как следствие, растет арсенал инструментов, доступных киберпреступникам для проведения сложных атак.
  • Расширения для браузеров: удобный инструмент или ворота для хакеров?
    Ксения Рысаева, Руководитель группы аналитики Центра противодействия киберугрозам Innostage CyberART
    Расширения для браузеров и недостаточное внимание к ним со стороны администраторов усиливают риски возникновения угроз для компаний
  • Своя атмосфера: что давно пора сделать для защиты электронной почты
    Илья Померанцев, продуктовый аналитик департамента сетевой безопасности Group-IB
    Рассмотрим три реальные атаки через корпоративную почту, обнаруженные и остановленные нашей системой Group-IB Threat Hunting Framework

Участвуйте в проектах

редакции журнала
"Информационная безопасность" 

КАЛЕНДАРЬ МЕРОПРИЯТИЙ 2024
ПОСЕТИТЬ МЕРОПРИЯТИЯ
ВЫСТУПИТЬ НА КОНФЕРЕНЦИЯХ
СТАТЬ АВТОРОМ
SOAR, IRP, SOC
Защита АСУ ТП и КИИ: готовимся к 2025 году
Обсуждаем на ITSEC 2024!

Еще темы...

More...