Контакты
Подписка 2024
Удаленный доступ
4 июля. Защищенный удаленный доступ к ИТ-инфраструктуре: как обеспечить контролируемое подключение внешних сотрудников
Регистрируйтесь на онлайн-конференцию!

Киберпреступники используют API ChatGPT для обхода контентных ограничений

09/02/23

Исследователи безопасности из ИБ-компании Check Point Research заявили, что хакеры разработали способ обойти ограничения ChatGPT и используют его для продажи услуг, которые позволяют киберпреступникам создавать вредоносные программы и фишинговые электронные письма.

Этот метод работает с использованием API ChatGPT, а не веб-интерфейса. ChatGPT делает API доступным для разработчиков, чтобы они могли интегрировать ИИ-бота в свои приложения, в том числе, в Telegram каналы, пишут в Securitylab. Оказывается, API-версия не налагает контентных ограничений и позволяет свободно создавать вредоносный контент, такой как фишинговые электронные письма и вредоносный код.

Пользователь на одном форуме сейчас продает услугу, которая сочетает в себе API ChatGPT и мессенджер Telegram. Первые 20 запросов бесплатны, а затем $5,50 за каждые 100 запросов.

dufdrihj547lq692u1qxllxsl7wvop8g

Исследователи Check Point протестировали способ обхода ограничений и в результате составили: фишинговое письмо и скрипт, похищающий PDF-документы с зараженного компьютера и отправляющий их злоумышленнику по FTP.

Кроме того, другие участники форума бесплатно публикуют небольшой bash-скрипт, который обходит ограничения ChatGPT и использует его для любых вредоносных действий, например, для разработки вредоносных программ.

yjm28b3k1s9n0fn5mw1v3o1befuwi4fm

Представители OpenAI, компании-разработчика ChatGPT, не ответили на вопрос, знает ли компания о результатах исследования и планирует ли она изменить интерфейс API.

Темы:Искусственный интеллектУгрозыCheck Pointфишинг
NGFW
28 июня. Комплексный подход к кибербезопасности. Защита АСУ ТП. Безопасность КИИ
Участвуйте и представляйте решения!
Статьи по темеСтатьи по теме

Участвуйте в проектах

редакции журнала
"Информационная безопасность" 

КАЛЕНДАРЬ МЕРОПРИЯТИЙ 2024
ПОСЕТИТЬ МЕРОПРИЯТИЯ
ВЫСТУПИТЬ НА КОНФЕРЕНЦИЯХ
СТАТЬ АВТОРОМ
SOAR, IRP, SOC
Спецпроекты журнала "Информационная безопасность"
Станьте автором издания!

Еще темы...

More...