29/05/24
27 мая на форуме «Технологии доверенного искусственного интеллекта» Александр Шойтов, заместитель министра цифрового развития, связи и массовых коммуникаций РФ рассказал о создании консорциума исследований безопасности технологий «Искусственного Интеллекта». Компания «Газинформсервис» предложила свои наработки в области защиты ИИ и планирует войти в число участников нового сообщества.
Одно из наиболее заметных событий в рамках форума стало заявление о начале работы консорциума для исследования информационной безопасности искусственного интеллекта (ИИ). Консорциум создан на базе Академии криптографии, Института системного программирования РАН и Национального координационного центра по компьютерным инцидентам. В ближайшее время его ряды должны пополнить компании, занимающиеся разработкой СЗИ и разработчики ИИ. Александр Шойтов подчеркнул, что «консорциум создан для тех, кто хочет активно работать» и делать ИИ в России доверенным и безопасным.
Начальник Аналитического центра кибербезопасности «Газинформсервиса», к.т.н. Лидия Виткова после пленарной сессии первая подошла к спикерам и предложила помощь в работе консорциума.
«Компания «Газинформсервис» принимает активное участие в разработке методологии и технологий обеспечения безопасной разработки и эксплуатации ИИ, и также создает математически обоснованные модели, разрабатывает методы работы с данными различной структуры. Мы готовы делиться своими наработками и экспертизой», – сказала эксперт «Газинформсервиса».
Также Лидия выступила с докладом «MLSecOps для интеграции ИИ в системы защиты информации и кибербезопасности».
«В прошлом году мы разработали инфраструктуру для обеспечения безопасной разработки систем с ИИ (MLSecOps). Сейчас мы уже готовы предложить методы мониторинга моделей машинного обучения, и работаем над созданием программных решений и отдельных бенчмарков для оценки безопасности и обеспечения заданной степени доверия к технологиям ИИ», – сказала Виткова.
Участие в работе форуме также приняли: Виталий Лютиков, заместитель директора ФСТЭК России; Артур Люкманов, директор Департамента международной информационной безопасности, МИД России; Арутюн Аветисян, директор Института системного программирования РАН и Евгений Абакумов директор по информационной инфраструктуре Госкорпорации «Росатом».
Ключевыми темами форума стали:
- вопросы создания доверенного искусственного интеллекта (ДИИ)
- безопасность данных и искусственный интеллект
- современные математические методы интеллектуальной обработки данных
- атаки на системы искусственного интеллекта и методы защиты
- применение ИИ для решения задач в области безопасности.
Организаторами события выступили Национальный технологический центр цифровой криптографии, Институт системного программирования им. В.П. Иванникова РАН, Академия криптографии Российской Федерации, Медиа Группа «Авангард». Событие проходило при поддержке Министерство цифрового развития, связи и массовых коммуникаций РФ.
