Контакты
Подписка 2024
Кибербезопасность
30 июля. Кибербезопасность предприятия: защита инфраструктуры и данных от современных угроз
Регистрируйтесь на онлайн-конференцию!

Хакерская группировка Nullbulge взломала пользователей интерфейса ComfyUI для работы с нейросетью Stable Diffusion

13/06/24

Exploring-the-Cutting-Edge-Advancements-of-Stability-AI-s-Stable-Diffusion-XL-1.0

Злоумышленники распространяли через Github вредоносное расширение ComfyUI_LLMVISION, позволявшее им получать доступ к данным пользователей.

ComfyUI — это широко распространенный графический интерфейс с открытым исходным кодом для Stable Diffusion, размещенный на Github и значительно облегчающий генерацию и модификацию ИИ-изображений. Взломанное расширение ComfyUI_LLMVISION позволяло интегрировать мощные языковые модели GPT-4 и Claude 3 в ту же программу, пишет Securitylab.

В настоящий момент страница ComfyUI_LLMVISION на Github недоступна, однако в архивной версии от 9 июня говорится, что она была «СКОМПРОМЕТИРОВАНА ГРУППОЙ NULLBULGE». «Возможно, стоит присмотреться к нам повнимательнее и хорошенько подумать, прежде чем выпускать ИИ-инструменты через настолько слабо защищенный аккаунт», — гласит ироничное послание от взломщиков.

В архивной версии страницы от 25 мая видно, что инструмент был достаточно популярным и активно использовался — 42 звезды, 4 форка и 12 коммитов. На своем сайте хакеры утверждают, что они эксплуатировали ComfyUI_LLMVISION на протяжении многих месяцев, причем взяли его под свой контроль еще до того, как создатель опубликовал расширение. Похоже, вредоносный код был интегрирован в программу с самого начала, а значит, под угрозу попали абсолютно все люди, которые ей пользовались.

Администрация Github пока не прокомментировала ситуацию.

На тематическом сабреддите ComfyUI один из пользователей поделился своей историей: «Я сам пострадал от этой атаки. Примерно через неделю после установки злополучного расширения я получил массу уведомлений о подозрительных попытках входа в мои аккаунты на различных сервисах. Поэтому я абсолютно уверен, что хакеры активно используют похищенные данные».

На своем сайте участники Nullbulge также опубликовали список, который они называют учетными данными для входа на различные аккаунты сотен пользователей.

Компания vpnMentor, предлагающая VPN-услуги и проводящая исследования в сфере кибербезопасности для продвижения своего продукта, проанализировала взломанное расширение. По их заявлению, оно способно красть криптовалютные кошельки, делать скриншоты экранов пользователей, раскрывать информацию об устройствах и IP-адресах, а также похищать файлы, содержащие определенные ключевые слова или приложения.

Сайт самой Nullbulge сейчас также недоступен, но в его архивной версии есть раздел «О нас», гласящий: «Мы — коллектив людей, убежденных в важности защиты прав художников и обеспечения справедливой оплаты их труда».

Другой раздел на главной странице озаглавлен: «Вы взломали меня/нас/мой вебсайт! Почему?». В нем говорится:

«Нам жаль, что пришлось так с вами поступить, но мы делаем это только в том случае, если вы совершили одно из следующих деяний, которые мы считаем «грехами»: кражу произведений искусства, продвижение криптовалют, использование ИИ-сгенерированного искусства, кражу контента с Patreon или других платформ, поддерживающих художников, а также любые иные формы посягательств на права создателей».

Остается неясным, действительно ли хакеры в данном случае руководствуются идеологическими убеждениями или это всего лишь прикрытие. Независимо от истинных мотивов, атака на ComfyUI_LLMVISION в очередной раз подчеркивает серьезные риски использования бесплатного программного обеспечения с Github, поддерживаемого отдельными лицами или небольшими группами разработчиков открытого кода.

Темы:Искусственный интеллектПреступления
NGFW
24 июля. Отечественные ИT-платформы и ПО для объектов КИИ: готовность предприятий к 01 января 2025
Участвуйте и представляйте решения!
Статьи по темеСтатьи по теме

Участвуйте в проектах

редакции журнала
"Информационная безопасность" 

КАЛЕНДАРЬ МЕРОПРИЯТИЙ 2024
ПОСЕТИТЬ МЕРОПРИЯТИЯ
ВЫСТУПИТЬ НА КОНФЕРЕНЦИЯХ
СТАТЬ АВТОРОМ
SOAR, IRP, SOC
Спецпроекты журнала "Информационная безопасность"
Станьте автором издания!

Еще темы...

More...