← Назад в блог

«Почему модель так ответила?»: как хранить источник каждого ответа, чтобы через три года восстановить решение

30 октября 2026 г. · 5 мин чтения
«Почему модель так ответила?»: как хранить источник каждого ответа, чтобы через три года восстановить решение - Европейские аудиторы не верят вероятностям модели. Как спроектировать аудит-след, хеши чанков и журнал решений человека для проверок спустя три года.

В ноябре 2026 года автоматический комплаенс-пайплайн анализирует договор с корпоративным поставщиком. Система находит регламенты безопасности в векторной базе, передает фрагменты в языковую модель, выявляет трех незадекларированных субподрядчиков и автоматически формирует отказ в продлении контракта.

Спустя три года, в конце 2029 года, поставщик оспаривает этот отказ в суде и обращается к европейскому регулятору на основании Статьи 22 GDPR и Статьи 86 AI Act. Регулятор направляет компании официальный запрос:

Предоставьте точные исходные документы, найденные фрагменты политик, версию весов модели и запись подтверждения человеком, на основании которых компании 9042 было отказано 14 ноября 2026 года.

В этот момент архитектура большинства сервисов сталкивается с полной потерей памяти.

Векторный индекс перестраивался четыре раза. Исходный регламент поставщика в хранилище был удален или переписан. Шаблон системного промпта в Git претерпел десятки правок без фиксации версий окружения. Коммерческий API модели, использовавшийся для генерации, закрыт провайдером полтора года назад.

В базе данных PostgreSQL инженеры находят единственную строчку: status: REJECTED, confidence: 0.89 и обобщенный текстовый вывод от модели, которой больше не существует.

Для надзорного органа и суда такая запись не имеет юридической силы.


Заблуждение о повторном запуске модели

При первой встрече с требованиями аудита инженеры часто пытаются опереться на воспроизводимость: если мы сохраним текст промпта и случайное зерно (seed), сможем ли мы запустить модель через три года и показать аудитору тот же результат?

В боевой эксплуатации эта идея разбивается о три фактора:

  1. Вывод моделей из эксплуатации: облачные провайдеры регулярно отключают устаревшие контрольные точки. Отправить запрос к версии API, закрытой два года назад, невозможно.
  2. Аппаратный недетерминизм: даже при нулевой температуре различия в ядрах вычислений с плавающей запятой на разных поколениях GPU, параллелизм батчинга и обновления драйверов не гарантируют побитового совпадения токенов.
  3. Дрейф векторных индексов: конвейеры RAG обращаются к живой базе знаний. Если векторный индекс обновляется каждый день, поиск по тому же эмбеддингу сегодня вернет другие чанки, чем три года назад.

Аудиторы не требуют повторного вычисления ответа. Им нужно доказательство того, какие именно данные поступили на вход, что сгенерировала система и кто из людей подтвердил вывод в момент вынесения решения.

Вам нужен не механизм воспроизведения прошлого, а неизменяемый реестр решений с адресацией по содержимому.


Пакет неизменяемого следа решения

Чтобы выдержать юридическую проверку спустя годы, каждое решение системы должно формировать автономный архивный пакет из четырех элементов:

  1. Снимки фрагментов контекста с хешированием: каждый извлеченный чанк документа сохраняется по его хешу SHA-256. В логе хранится не ссылка на строку в базе, а точный набор байтов, переданный в контекстное окно.
  2. Фиксация параметров окружения: текст системного и пользовательского промптов, точный идентификатор модели, температура и версия API.
  3. Сырой артефакт генерации: исходный ответ модели, разобранная схема JSON и карта привязки утверждений к фрагментам источника.
  4. Конверт контроля человеком: идентификатор оператора, время проверки, снимок экрана, который видел специалист, и обоснование ручной корректировки.

Пример реализации сервиса на Python, формирующего автономный манифест аудита:

import hashlib
import json
import time
import uuid
from dataclasses import dataclass, asdict
from typing import Any, Dict, List, Optional

@dataclass
class RetrievedChunkSnapshot:
    chunk_id: str
    source_uri: str
    content_sha256: str
    content_text: str
    similarity_score: float

@dataclass
class ModelExecutionMetadata:
    provider: str
    model_identifier: str
    model_version_digest: str
    temperature: float
    system_prompt_sha256: str
    system_prompt_text: str

@dataclass
class DecisionManifest:
    decision_id: str
    entity_id: str
    timestamp_utc: float
    execution: ModelExecutionMetadata
    retrieved_chunks: List[RetrievedChunkSnapshot]
    raw_prompt: str
    raw_response: str
    structured_output: Dict[str, Any]
    human_reviewer_id: Optional[str]
    human_decision: str
    manifest_merkle_root: str = ""

    def calculate_root_hash(self) -> str:
        """Вычисляет криптографический дайджест всего контекста решения."""
        hasher = hashlib.sha256()
        hasher.update(self.decision_id.encode("utf-8"))
        hasher.update(self.execution.model_version_digest.encode("utf-8"))
        hasher.update(self.execution.system_prompt_sha256.encode("utf-8"))
        
        # Хеширование всех чанков в отсортированном порядке
        for chunk in sorted(self.retrieved_chunks, key=lambda c: c.content_sha256):
            hasher.update(chunk.content_sha256.encode("utf-8"))
            
        hasher.update(self.raw_response.encode("utf-8"))
        if self.human_reviewer_id:
            hasher.update(self.human_reviewer_id.encode("utf-8"))
            hasher.update(self.human_decision.encode("utf-8"))
            
        return hasher.hexdigest()

class AuditLineageRecorder:
    def __init__(self, storage_client: Any):
        self.storage = storage_client

    def record_decision(
        self,
        entity_id: str,
        execution_meta: ModelExecutionMetadata,
        chunks: List[RetrievedChunkSnapshot],
        raw_prompt: str,
        raw_response: str,
        structured_output: Dict[str, Any],
        reviewer_id: Optional[str],
        human_decision: str
    ) -> str:
        manifest = DecisionManifest(
            decision_id=str(uuid.uuid4()),
            entity_id=entity_id,
            timestamp_utc=time.time(),
            execution=execution_meta,
            retrieved_chunks=chunks,
            raw_prompt=raw_prompt,
            raw_response=raw_response,
            structured_output=structured_output,
            human_reviewer_id=reviewer_id,
            human_decision=human_decision
        )
        manifest.manifest_merkle_root = manifest.calculate_root_hash()
        
        # Сохранение в неизменяемое хранилище WORM (Write Once, Read Many)
        payload = json.dumps(asdict(manifest), indent=2, sort_keys=True)
        self.storage.write_immutable(f"audit/{manifest.decision_id}.json", payload)
        
        return manifest.decision_id

Когда через три года поступит запрос, инженерам не придется искать старые веса или перебирать индексы базы. Они прочитают JSON-манифест из неизменяемого архива.

Манифест содержит точный текст найденных пунктов регламента, хеш модели, сырой ответ и электронную подпись аналитика, подтвердившего решение.


Экономика хранения: дедупликация чанков

Инженеры часто задают вопрос о расходах на хранилище: если мы будем сохранять полные тексты фрагментов для каждого вызова, не раздует ли это счета за облако?

В реальных системах RAG тысячи запросов повторно извлекают одни и те же базовые пункты политик и регламентов. Прямое дублирование текста создаст избыточность.

Решение состоит в дедупликации с адресацией по содержимому:

  • Текстовые чанки хранятся в общем хранилище объектов под именами content_sha256.
  • Манифест решения содержит метаданные и хеш-ссылки на эти фрагменты.
  • Пункт регламента длиной 500 символов, извлеченный 200 000 раз, занимает в хранилище 500 байт, а не 100 мегабайт.

С использованием архивных уровней объектного хранилища содержание 500 000 полных карточек решений с неизменяемым аудит-следом обходится дешевле 15 долларов в месяц.


Стандарт доказательств

Регламент AI Act не запрещает вероятностные алгоритмы. Он запрещает решения, происхождение которых невозможно доказать.

Когда модель влияет на кредитный лимит, отклоняет кандидата на должность или расторгает договор с подрядчиком, сервис обязан предоставить непрерывную цепочку данных от исходного документа до подписи оператора.

Если система не способна восстановить контекст сегодняшнего решения по запросу в 2029 году, она не готова к промышленной эксплуатации.

Журнал аудита нужно проектировать до того, как придет проверка.


Как в вашей системе организовано хранение контекста и ответов модели? Сохраняете ли вы точные снимки чанков или рассчитываете на поиск по живой базе?

Есть проект на прицеле?

Давайте обсудим, как мы можем помочь.

Есть идея проекта? →