Европейский союз вводит новые правила для компаний, работающих с искусственным интеллектом: отныне они должны помечать контент, созданный или изменённый нейросетями. Власти ЕС рассчитывают, что такие меры помогут пользователям отличать реальные изображения, видео и аудио от синтетических, передает inbusiness.kz со ссылкой на Euronews.
Новые требования стали частью европейского закона об ИИ - первого в мире комплексного регулирования этой сферы. Правила распространяются на разработчиков и поставщиков ИИ-систем, включая создателей популярных моделей вроде ChatGPT и Claude. Компании должны обеспечить, чтобы материалы, созданные искусственным интеллектом, можно было распознать с помощью специальных меток.
Особое внимание уделяется дипфейкам - реалистичным изображениям, видео и аудиозаписям, которые с помощью нейросетей имитируют внешность, голос или действия реальных людей.
При этом в ЕС признают: не каждый созданный ИИ контент представляет угрозу. Некоторые материалы используются в искусстве, исследованиях, сатире или развлечениях. Например, вирусное изображение Папы Франциска в белом пуховике в 2023 году многие восприняли как безобидную шутку.
Новые нормы ЕС предусматривают два вида маркировки: видимые обозначения для пользователей и машинно считываемые метки, позволяющие системам распознавать происхождение контента. Требования будут касаться не только разработчиков ИИ, но и профессиональных пользователей таких инструментов. Личное использование технологий под эти правила не подпадает.
Однако добиться полной прозрачности будет непросто.
Главная сложность - отсутствие границ у интернета. ЕС может устанавливать правила для компаний, работающих на его рынке, но дипфейк, созданный в другой стране, способен за минуты попасть к европейской аудитории.
Есть и техническая проблема. Крупные технологические компании поддерживают идею прозрачности, но признают: универсального способа маркировать и отслеживать ИИ-контент пока не существует. Одни используют водяные знаки, другие - метаданные или системы подтверждения происхождения файлов. Эти методы не всегда совместимы между собой.
Кроме того, цифровые следы легко теряются. Метки можно удалить, а изображение или видео может измениться после редактирования, сжатия или публикации на разных платформах. Восстановить всю историю создания такого файла зачастую невозможно.
Поэтому специалисты считают, что одной технологии недостаточно. Для борьбы с дипфейками потребуется сочетание разных подходов: маркировки, инструментов обнаружения, сотрудничества платформ и независимых организаций, занимающихся проверкой информации.
Читайте по теме:
Искусственный интеллект стремительно меняет европейский рынок труда
