← Назад в блог

Обязательная маркировка ИИ-контента: как подготовить пайплайны генерации текста и медиа к Статье 50 AI Act

9 ноября 2026 г. · 6 мин чтения
Обязательная маркировка ИИ-контента: как подготовить пайплайны генерации текста и медиа к Статье 50 AI Act - Как статья 50 AI Act требует маркировать синтетический контент, почему метаданные смываются и как встроить C2PA и статистические водяные знаки.

Многие команды разработки относятся к маркировке контента как к формальности: вписать строку в метаданные EXIF или добавить сноску в конец сгенерированного отчета.

По нормам Статьи 50 Европейского закона об искусственном интеллекте (AI Act) такой подход считается нарушением.

Регламент требует от поставщиков и разработчиков систем генерации синтетического аудио, изображений, видео и текста обеспечивать машиночитаемую маркировку выходных данных. Метка должна быть устойчивой к удалению и доказывать искусственное происхождение материала. Требование распространяется на любые публичные медиа-пайплайны, системы публикации и диалоговых ассистентов, работающих на европейском рынке.

Инженерная проблема в том, что стандартные каналы доставки уничтожают простые маркеры за пару секунд.


Почему метаданные не выдерживают продакшена

Самый очевидный способ пометить изображение — прописать тег EXIF или IPTC: Software: GenAI-Pipeline-v2. В Python это делается в две строчки через Pillow:

from PIL import Image
from PIL.ExifTags import TAGS

im = Image.open("output.png")
exif = im.getexif()
exif[0x0131] = "Synthetic-AI-Generated"
im.save("output_marked.jpg", exif=exif)

Но как только файл попадает на пользовательскую платформу, тег исчезает.

Slack вырезает заголовки EXIF при загрузке для экономии трафика и защиты геолокации. WhatsApp пережимает картинки в WebP и полностью удаляет служебные метаданные. Оптимизаторы Cloudflare и AWS CloudFront на уровне CDN-прокси сбрасывают нестандартные заголовки ради кеширования на периферии.

Если регулятор или пользователь обнаружит синтетическое изображение без читаемой метки происхождения, ссылки на то, что заголовок стерся три сетевых узла назад, европейский надзорный орган не убедят.

Для надежного соблюдения стандарта нужна двухслойная архитектура: криптографическая подпись происхождения (для подтверждения авторства) и пиксельная стеганография (для выживания при конвертации).


Слой 1: Криптографическое происхождение через C2PA

Коалиция за аутентичность контента (C2PA) разработала спецификацию, которая стала стандартом для европейского регулирования.

Вместо редактируемой текстовой строки C2PA внедряет неизменяемый подписанный манифест прямо в бинарные контейнеры медиафайлов (блоки JUMBF в JPEG, чанки PNG или атомы MP4).

Манифест включает:

  • Идентификатор подписи (на базе корпоративного сертификата X.509 доверенного удостоверяющего центра);
  • Название и версию модели, сгенерировавшей контент;
  • Криптографические хеши исходного файла на момент генерации;
  • Электронную подпись, подтверждающую отсутствие изменений.
[Медиаданные: пиксельный поток]
               │
               ▼
   ┌───────────────────────┐
   │ Блок контейнера JUMBF │
   ├───────────────────────┤
   │ Модель: SDXL-Turbo    │
   │ Издатель: Acme Corp CA│
   │ Время: 2026-11-09     │
   │ Хеш: sha256:...       │
   ├───────────────────────┤
   │ Подпись ECDSA (P-256) │
   └───────────────────────┘

Когда браузер или корпоративная CMS проверяет файл, манифест C2PA доказывает, что контент создан доверенным пайплайном и не подвергался манипуляциям.

Но если пользователь сделает скриншот или конвертирует видео через ffmpeg, контейнер JUMBF будет отрезан. Поэтому требуется второй защитный слой.


Слой 2: Невидимые водяные знаки в частотной области

Чтобы метка пережила сжатие, кадрирование и конвертацию форматов, сигнал внедряется непосредственно в значения пикселей.

Простые пространственные метки (вроде изменения младших значащих битов) разрушаются при первом же сжатии JPEG. Рабочие системы оперируют в частотной области, модифицируя коэффициенты дискретного косинусного преобразования (DCT) или вейвлет-преобразования (DWT).

В генераторах изображений латентный водяной знак внедряется прямо в декодер диффузионной модели. Когда латентное представление проходит через VAE-декодер для превращения в RGB-пиксели, отдельный слой вносит контролируемые возмущения в средние частотные полосы.

Для человеческого глаза эти изменения незаметны при нормальном отображении на экране. Однако алгоритм-детектор вычисляет корреляцию между частотными блоками:

S = (1 / N) · ∑ corr(F(I_i), W_ref)

Даже если обрезать 25% кадра и сохранить картинку в JPEG с качеством 60%, корреляция остается выше порогового значения (S > 0.85), подтверждая искусственное происхождение без оглядки на метаданные.


Сложная задача: маркировка чистого текста

В изображениях и звуке есть миллионы избыточных бит, куда можно спрятать сигнал. В тексте избыточности нет: строка UTF-8 состоит из дискретных символов Unicode.

Как сделать текст машиночитаемым для проверки на синтетичность, не жертвуя естественностью формулировок?

Индустриальным стандартом стал метод статистического смещения логитов выборки токенов (алгоритм Кирхенбауэра), который встраивается в движок инференса (vLLM, Hugging Face TGI или Triton).

На каждом шаге генерации токена:

  1. Хеш предыдущего токена инициализирует псевдослучайный генератор.
  2. Словарь модели (около 32 000 токенов) делится на два равных списка: «зеленый» (G) и «красный» (R).
  3. К логитам всех токенов из зеленого списка добавляется небольшое смещение δ (обычно от 1.5 до 2.0):
def apply_watermark_bias(logits, prev_token_id, delta=1.8, vocab_size=32000):
    # Детерминированный хеш предыдущего токена
    seed = hash_token(prev_token_id)
    rng = torch.Generator().manual_seed(seed)
    
    # Случайное разбиение словаря на две части
    permutation = torch.randperm(vocab_size, generator=rng)
    green_indices = permutation[:vocab_size // 2]
    
    # Добавление веса токенам из зеленого списка
    logits[green_indices] += delta
    return logits
  1. Модель выбирает следующий токен из скорректированного распределения вероятностей.

Механизм детекции

В обычном тексте, написанном человеком, токены случайно попадают в зеленый и красный списки примерно поровну — 50% на 50%.

В тексте с маркировкой доля зеленых токенов поднимается до 80–90%, поскольку их вероятность искусственно повышалась при генерации.

Для проверки фрагмента верификатор подсчитывает общее число токенов T и количество встретившихся зеленых токенов |G|:

z = (|G| - T / 2) / sqrt(T / 4)

Для фрагмента из 200 слов (около 250 токенов) при 210 зеленых токенах z-оценка превышает 10.0. Вероятность того, что такой результат получен случайно в человеческом тексте, составляет менее 1 × 10⁻²⁰.

Сигнал сохраняется при легком редактировании, исправлении опечаток и копировании текста в почту, не делая язык искусственным или тяжелым для чтения.


Архитектура для продакшена

Архитектура, отвечающая требованиям статьи 50 AI Act, разделяет модификацию данных и криптографическую подпись:

[Воркер инференса]
       │
       ▼ (Сырой сгенерированный поток)
[Узел внедрения водяных знаков]
       ├── Текст: Смещение логитов при сэмплировании
       └── Медиа: Частотные искажения в декодере VAE
       │
       ▼ (Скрыто маркированный вывод)
[Шлюз криптографической подписи (Изолированный HSM)]
       │
       ▼ (Внедрение манифеста C2PA JUMBF)
[Хранилище / Раздача через периферию CDN]
  1. Маркировка работает внутри среды генерации: текст размечается при выборке токенов, изображения — на этапе декодирования VAE.
  2. Криптографическая подпись вынесена в исходящий шлюз: манифест C2PA подписывается закрытым ключом из аппаратного модуля безопасности (HSM). Воркеры генерации не имеют прямого доступа к закрытым ключам.
  3. Реестр аудита фиксирует хеши партий: система сохраняет хеши сгенерированных ассетов и версии моделей для подтверждения отчетности перед регулятором.

Команды, которые отложат эту задачу до вступления штрафных санкций в силу, обнаружат, что внедрение маркировки в высоконагруженные кластеры инференса требует переписывания слоя раздачи с нуля.

Заложенная в архитектуру прослеживаемость превращает сложное регуляторное требование в штатное свойство инфраструктуры.


Когда ваши сервисы отдают сгенерированный контент внешним пользователям, проверяет ли инфраструктура, сохраняются ли маркеры происхождения при распространении на сторонних платформах?

Есть проект на прицеле?

Давайте обсудим, как мы можем помочь.

Есть идея проекта? →