Вслед за крупнейшими игроками на рынке искусственного интеллекта, в России начнут маркировать контент, созданный нейросетями. Эксперты Центра цифровой экспертизы Роскачества расскажут, как и зачем будет маркироваться ИИ-контент.
Ежегодно отмечается стремительный рост фейков в Сети. Так, по данным АНО «Диалог Регионы», в прошлом году в российском сегменте интернета было зафиксировано 4 тыс. уникальных фейков и 12 млн случаев их распространения.
Эксперты прогнозируют, что в этом году число уникальных фейков достигнет 4,5 тыс., а количество их копий возрастет до 15 млн. В связи с этим требуются срочные меры по регулированию контента, созданного нейросетями.
Новый закон о маркировке
Необходимость принятия закона о маркировке контента, сгенерированного нейросетями, назрела уже давно. Отсутствие подобного регулирования представляет серьезную угрозу безопасности пользователей. Неконтролируемое распространение контента, созданного нейросетями на базе искусственного интеллекта (ИИ), может привести к дезинформации и вызвать панику среди населения.
В Госдуме уже начали разработку закона о маркировке ИИ-контента. На данный момент обсуждается, как именно и в каких случаях будет маркироваться контент, кто должен нести ответственность за его распространение. Будет ли маркировка касаться только контента, распространяемого СМИ, или пользовательского контента, используемого в личных целях.
Справочно
Предполагается, что маркировка будет осуществляться при помощи графических или водяных знаков. Метки будут выглядеть ненавязчиво, но при этом заметно.
В случае принятия закона российские ИИ-сервисы будут обязаны автоматически маркировать сгенерированные тексты. Поэтому таким крупным компаниям, как «Сбер» и «Яндекс», следует уже сейчас задуматься о внедрении технологии маркировки.
Сергей Кузьменко
руководитель Центра цифровой экспертизы Роскачества
Сегодня ИИ-сервисы стали доступны любому человеку, у которого есть устройство с выходом в интернет. Только с помощью специальных программ можно отличить видео, фото и текст, сгенерированные нейросетью. Это создает большие возможности для мошенничества и манипуляций общественным мнением. Соответствующая маркировка цифрового контента поможет пользователям определить, что данные были созданы нейросетью и требуют фактчекинга.
Как регулируют ИИ-контент в разных странах
Вопрос маркировки ИИ-контента сейчас активно обсуждается во всем мире. Евросоюз в своем Законе об ИИ (AI Act) предлагает одну из самых проработанных моделей. Она основана на градации систем ИИ по уровню потенциального риска. Ожидается, что закон вступит в силу не раньше 2025 года.
Американский документ схож с европейским в части требований к разработчикам систем ИИ по прозрачности процессов. Для повышения уровня безопасности разрабатываются соответствующие стандарты, а также руководство по маркировке контента, созданного при помощи нейросетей.
В Китае новый закон будет иметь комплексный характер и охватит широкий спектр вопросов, связанных с ИИ-технологиями. Одним из центральных аспектов регулирования является требование к провайдерам генеративного ИИ маркировать контент специальными водяными знаками. Закон также предусматривает строгие санкции за удаление или сокрытие таких меток.
Кроме того, правительство Китая активно вкладывает средства в развитие отечественных ИИ-технологий, стремясь выйти на передовые позиции в мировой технологической гонке.
Почему важно маркировать цифровой контент
Введение обязательной маркировки контента, созданного нейросетями, несет значительные преимущества для пользователей:
В современном цифровом мире умение различать манипуляции становится жизненно важным для каждого из нас.
Маркировка ИИ-контента – первый шаг к формированию здоровой цифровой экосистемы. Для ее создания необходимо провести масштабную просветительскую кампанию по повышению медиаграмотности и развитию критического мышления у населения.
По-прежнему важно работать с молодым поколением в образовательных учреждениях, а также поддерживать информационные инициативы для старшего поколения. Только таким образом нейросети на базе искусственного интеллекта будут служить интересам общества, а не становиться инструментом манипуляций и обмана.
