09/10/23
Компания Snap попала на радар Управления по информационным вопросам (ICO) Великобритании из-за опасений, что её искусственный интеллект в форме чат-бота может представлять угрозу конфиденциальности детей. ICO объявило о выдаче предварительного предупреждения Snap относительно "потенциального недостатка в оценке рисков конфиденциальности, представляемых его генеративным чат-ботом 'My AI'".
Действия ICO не связаны с нарушением, поясняет Securitylab. Однако уведомление указывает на опасения регулятора относительно того, что Snap, возможно, не предпринял шагов для обеспечения соответствия продукта правилам защиты данных, которые с 2021 года были ужесточены, включая Детский дизайнерский кодекс.
ICO заявило, что предварительные результаты их расследования указывают на "тревожное недоразумение со стороны Snap в достаточной идентификации и оценке рисков конфиденциальности для детей и других пользователей перед запуском 'My AI'". Информационный комиссар, Джон Эдвардс, подчеркнул, что организации должны учитывать риски, связанные с ИИ, наряду с преимуществами.
Чат-бот на базе ИИ был запущен Snap в феврале, используя технологию большой языковой модели OpenAI's ChatGPT. Он был представлен как виртуальный друг, к которому можно обратиться за советом или отправить сообщение. Несмотря на заявленные меры безопасности, были сообщения о неправильном поведении бота. Например, чат-бот предложил способы скрыть запах алкоголя 15-летнему пользователю.
В ответ на уведомление ICO представитель Snap заявил, что они тщательно рассматривают предварительное решение ICO и стремятся защитить конфиденциальность своих пользователей.
Это не первый случай, когда чат-бот на базе ИИ сталкивается с вниманием европейских регуляторов по конфиденциальности. Ранее итальянский регулятор выдал приказ остановить обработку данных местных пользователей чат-боту "Replika", также выразив опасения по поводу рисков для несовершеннолетних.
Регуляторы активно и публично реагируют на вопросы, связанные с генеративными чат-ботами на базе ИИ, стремясь обеспечить соответствие существующим правилам о конфиденциальности.
