Китай будет контролировать работу нейросетей
14/12/22
Управление по вопросам киберпространства Китая (CAC) издало указ, запрещающий генерацию нейросетями изображений без "водяных знаков". Новые правила Китая вступят в силу 10 января 2023 года, передают Securitylab.
В соответствии с новыми правилами САС будет пристально следить за «технологией глубокого синтеза». Принятие постановления связано с тем, что некоторые пользователи используют нейросети для «создания и распространения незаконной и наносящей вред информации, чтобы оклеветать других или подделать чужую личность». Это "влияет на общественный порядок, ущемляет права и интересы людей, ставит под угрозу национальную безопасность и социальную стабильность".
В соответствии с правилами, правительство будет проверять безопасность новых ИИ-продуктов. Каждый продукт должен соответствовать определенным правилам, прежде чем он будет выпущен.
Кроме того, поставщики услуг глубокого синтеза должны добавлять "водяные знаки", не влияющие на использование информационного контента, созданного с использованием их продуктов. Какой-либо сгенерированный контент – текст, голос, портрет или иммерсивные реалистичные сцены – должен помечаться заметным водяным знаком, чтобы избежать путаницы или неправильной интерпретации со стороны общественности.
Более того, компаниям и отдельным пользователям запрещено использовать технические средства для удаления, изменения или сокрытия водяных знаков»
Также поставщики технологии глубокого синтеза должны вести свои записи в соответствии с законом, а пользователи должны регистрировать учетные записи под своими настоящими именами, чтобы можно было отследить их деятельность, связанную с генерацией контента.