Контакты
Подписка 2025
ТБ Форум 2025
Кибербезопасность. Защита АСУ ТП. Безопасность КИИ. Москва | 11 февраля | ТБ Форум 2025
Регистрируйтесь и приходите!

Microsoft выпустила инструмент для предотвращения взлома ИИ

06/05/21

AI error-1Компания Microsoft выпустила автоматизированный инструмент с открытым исходным кодом Counterfit, призванный помочь компаниям оценить уровень кибербезопасности систем на базе машинного обучения. Проект Counterfit доступен на GitHub и включает инструмент командной строки и общий уровень автоматизации, позволяющий разработчикам моделировать кибератаки на системы ИИ.

Любой пользователь может загрузить инструмент и установить его через Azure Shell, запустить в браузере или локально в среде Anaconda Python.

Counterfit способен оценивать модели искусственного интеллекта в различных облачных средах, локально или на периферии. Инструмент не зависит от моделей ИИ, а также поддерживает разные типы данных, включая текст, изображения или общий ввод.

ИБ-специалисты могут использовать Counterfit для тестирования на проникновение и объединения систем искусственного интеллекта, сканирования систем искусственного интеллекта на предмет уязвимостей и регистрации атак на модели ИИ.

Counterfit представлял собой набор специальных скриптов для симуляции атак на различные ИИ-модели. Microsoft изначально применяла скрипты для внутренних тестов, однако со временем Counterfit развился в автоматизированный инструмент, позволяющий проводить тестовые атаки сразу на несколько ИИ-моделей.
Темы:КиберзащитаMicrosoftИскусственный интеллектОтрасльGitHub
Безопасная разработка
Подходы и инструменты управления процессом разработки безопасного программного обеспечения
Регистрируйтесь и приходите! 13 февраля 2025
Статьи по темеСтатьи по теме

Участвуйте в проектах

редакции журнала
"Информационная безопасность" 

КАЛЕНДАРЬ МЕРОПРИЯТИЙ 2024
ПОСЕТИТЬ МЕРОПРИЯТИЯ
ВЫСТУПИТЬ НА КОНФЕРЕНЦИЯХ
СТАТЬ АВТОРОМ
ТБ Форум
Актуальные вопросы защиты информации
12 февраля 2025 | Организатор: ФСТЭК России

Еще темы...

More...