В США планируют запретить использование искусственного интеллекта, способного создавать реалистичные лица в видео и изображениях. Такое решение направлено на борьбу с мошенничеством и распространением фейкового контента.
В Конгрессе США рассматривается законопроект, который вводит ограничения на применение технологий искусственного интеллекта, генерирующих фотореалистичные изображения и видео с лицами людей, которые на самом деле не существовали или не участвовали в создании контента.
Авторы инициативы отмечают, что развитие таких технологий открывает широкие возможности для злоупотреблений — от подделки документов до создания убедительных «глубоких фейков», способных манипулировать общественным мнением и вводить в заблуждение пользователей.
«Сегодня мы сталкиваемся с ситуацией, когда искусственный интеллект может создавать настолько реалистичные изображения, что отличить подделку от реальности становится крайне сложно», — заявил один из законодателей, участвующих в подготовке документа. — «Это создает серьезные риски для безопасности и доверия в обществе».
Эксперты в области искусственного интеллекта поддерживают инициативу, подчеркивая, что прозрачность и ответственность при использовании таких технологий крайне важны. По их мнению, запрет поможет установить правовые рамки и защитить пользователей от мошеннических схем.
Однако некоторые специалисты предупреждают, что слишком жесткие ограничения могут затормозить инновации и развитие новых полезных приложений ИИ в медиа и развлечениях. Они предлагают взвешенный подход с акцентом на контроль и маркировку контента, созданного с помощью ИИ.
В целом, инициатива отражает растущую обеспокоенность общества относительно влияния технологий искусственного интеллекта на безопасность, приватность и доверие в цифровом пространстве.
