Евросоюз продолжает закручивать гайки вокруг генеративного ИИ. На этот раз речь идет о системах, которые позволяют создавать сексуализированные deepfake-изображения: такие инструменты попадают под более жесткие ограничения, а компаниям придется внимательнее следить за тем, как их продукты используются на практике.
Инициатива укладывается в общую линию ЕС на ужесточение контроля над ИИ-технологиями, которые могут наносить вред пользователям или использоваться для злоупотреблений. Для разработчиков это означает дополнительные требования к модерации, маркировке контента и защите от очевидно вредных сценариев применения.
Проблема deepfake давно вышла за рамки шуток и мемов. Такие изображения и видео могут использоваться для травли, шантажа, репутационного ущерба и массовой дезинформации. Именно поэтому регуляторы все чаще рассматривают синтетический контент не как “новую игрушку”, а как зону повышенного риска.
Для обычных пользователей это тоже важный сигнал: в ближайшее время платформы и сервисы, работающие с генеративным ИИ, вероятно, будут вводить более строгие фильтры, ограничения на запросы и дополнительные механизмы жалоб. Для индустрии в целом это еще одно напоминание о том, что эпоха “делаем что угодно, а потом разберемся” постепенно заканчивается.
Если смотреть шире, ЕС снова показывает, что хочет быть не только рынком для ИИ-продуктов, но и площадкой, где правила игры определяются заранее. Для компаний это означает рост издержек на соблюдение требований, а для пользователей — больше защиты, но и больше ограничений.
