Сегодня в 09:56

AI Act 2026: новые правила для чат-ботов и дипфейков в ЕС

С 2 августа 2026 года компании обязаны чётко объяснять людям, когда те общаются с искусственным интеллектом или когда картинка, видео, аудио или текст созданы или изменены с помощью ИИ.

AI Act 2026: новые правила для чат-ботов и дипфейков в ЕС вступают в силу 2 августа. Компании будут обязаны предупреждать людей, если те общаются с ИИ или видят контент, созданный или изменённый искусственным интеллектом.

Но: не на всё нужно вешать ярлык «Сделано ИИ». Правила зависят от того, кто вы — разработчик системы или тот, кто публикует результат.

Требования для чат-ботов, дипфейков и текстов — разные.

AI Act 2026: новые правила для чат-ботов и дипфейков в ЕС

Поставщики чат-ботов, голосовых помощников и цифровых консультантов обязаны предупреждать пользователей, что те общаются с машиной, и только если это и так очевидно для любого разумного человека, дополнительная маркировка не требуется. То же самое касается систем распознавания эмоций и биометрической категоризации — людей тоже должны заранее информировать о таком использовании.

Что касается контента, созданного генеративным ИИ, то изображения, видео, аудио и тексты, сделанные или сильно изменённые искусственным интеллектом, должны быть технически маркированы так, чтобы это могли считать машины, причём это не обязательно должен быть видимый водяной знак — подойдут метаданные, подтверждение происхождения или другие технические маркеры, а Еврокомиссия уже выпустила для компаний добровольные руководства и кодекс поведения.

Исключение делается только для систем, которые вносят незначительные правки, например исправляют орфографию, — главный критерий здесь в том, создаёт ли ИИ контент с нуля или существенно его переделывает, и только в этом случае маркировка обязательна.

Дипфейки должны быть раскрыты

Тот, кто публикует дипфейк, то есть реалистично выглядящие изображения, видео или аудиозаписи, должен в принципе указать, что этот материал создан или изменён искусственным интеллектом.

Однако для художественных, творческих, сатирических или вымышленных произведений действуют облегчённые требования — маркировку можно сделать так, чтобы она не портила восприятие произведения, но сама обязанность предупреждать при этом полностью не отменяется.

Что касается текстов, созданных ИИ, то здесь правила строже, но не каждый такой текст требует видимой маркировки: предупреждение обязательно в первую очередь тогда, когда текст публикуется для информирования общества по вопросам общественного интереса.

Например, журналистские статьи, политические материалы или другие социально значимые публикации, а внутренние документы, простые описания товаров или обычная деловая переписка автоматически под это требование не попадают.

Кроме того, маркировка может не ставиться, если текст прошёл настоящую человеческую проверку или редакционный контроль, и при этом человек или компания берут на себя редакционную ответственность, причём простого поверхностного просмотра для этого недостаточно, поэтому компаниям стоит документально фиксировать, кто именно проверил и утвердил содержание.

AI Act 2026: правила действуют с августа без общего переходного периода

Обязательства по прозрачности согласно статье 50 становятся обязательными с 2 августа 2026 года, и закон не даёт общего переходного периода до декабря для уже работающих чат-ботов или генеративных систем — отсрочки касаются только высокорисковых систем и некоторых уже используемых приложений, причём для старых высокорисковых систем всё зависит от того, будут ли они существенно дорабатываться после этой даты, а для маркировки чат-ботов и генеративного контента компаниям стоит готовиться именно к 2 августа.

Часть требований закона действует уже с 2 февраля 2025 года — это запрет на особо опасные методы ИИ и обязанность обеспечить в компании достаточную компетенцию в области ИИ, то есть сотрудники, которые используют или контролируют такие системы, должны обладать необходимыми знаниями с учётом целей использования, возможных рисков и их подготовки.

При этом закон не требует проводить конкретные семинары или вести формальный журнал учёта обучения, но для соблюдения правил всё же разумно документировать, кто, чему и как обучался, а также кто за что отвечает.

Не каждый финансовый ИИ является высокорисковым

ИИ-приложение не становится высокорисковым только потому, что работает в финансовом отделе. Программы для сортировки счетов, создания прогнозов или анализа корпоративных данных обычно автоматически не относят к этой категории. Но всё меняется, если ИИ влияет на решения в отношении физических лиц.

Например, системы проверки платежеспособности или кредитоспособности, а также некоторые приложения в страховании жизни и здоровья могут попасть в категорию высокорисковых.

При этом чистое обнаружение мошенничества законодатель явно исключил из этой категории в области проверки кредитоспособности. Для всех затронутых систем закон устанавливает серьёзные требования: управление рисками, документация, протоколирование, качество данных и человеческий надзор.

В Германии координацию рыночного надзора за соблюдением закона осуществляет прежде всего федеральное сетевое агентство. Оно создаёт центральный компетентностный и координационный центр по ИИ. Другие ведомства продолжают участвовать в своих областях.

BSI (Федеральное ведомство по информационной безопасности) сохраняет важную роль благодаря своему опыту в кибербезопасности, но не выступает единственным или общим надзорным органом для всех ИИ-приложений. Бундесрат одобрил немецкий имплементационный закон 10 июля 2026 года.

AI Act 2026: как подготовиться к закону об ИИ

Закон об ИИ не вводит простого правила «есть ИИ – ставь ярлык». Вместо этого он возлагает разные обязанности на поставщиков, операторов и тех, кто публикует контент.

Чат-боты должны информировать пользователей, генеративные системы — делать контент технически распознаваемым, а дипфейки — раскрывать информацию о своей природе. Для текстов же решение о видимой маркировке зависит от содержания, общественного интереса и редакционного контроля.

Поэтому компании сталкиваются с проблемой ещё до того, как думать о маркировке. Если вы не знаете, какие ИИ-системы работают у вас в компании, какой контент они создают и кто за это отвечает, вы вряд ли сможете соблюсти все требования.

В первую очередь проведите полную инвентаризацию всех ИИ-инструментов, внедрите чёткие процессы утверждения и закрепите ответственность за каждым этапом. Также проверьте, выполняют ли ваши поставщики технические требования по маркировке и нужно ли вам самим видимо раскрывать собственный контент.

Но самая большая опасность кроется не в размере возможного штрафа. ИИ уже давно работает в ваших процессах, но внутри компании никто точно не знает, где именно, на какие решения он влияет и кто в конечном счёте несёт за это ответственность.

Сегодня в 09:56