Сроки по AI Act сдвинулись, а требования остались: что делать компаниям в найме и кредитном скоринге до декабря 2027 года
Когда европейские регуляторы в рамках обсуждения Digital Omnibus дали понять, что сроки проверок для систем высокого риска из Приложения III сдвинутся к концу 2027 года, технические руководители в финтехе и HR-сервисах вздохнули с облегчением. В рабочих чатах появилось привычное сообщение: У нас есть три года, пока ничего не трогаем.
Это спокойствие обманчиво.
Если ваш сервис использует машинное обучение для разбора резюме, ранжирования кандидатов на собеседования или скоринга кредитоспособности физических лиц, ваша система попадает прямо в Приложение III европейского регламента AI Act (Регламент ЕС 2024/1689). Отсрочка в календаре кажется передышкой только менеджерам. Для инженерной команды создание архитектуры под требования регламента занимает от 12 до 18 месяцев работы.
Восстановить логи задним числом перед приходом аудитора невозможно.
Что Приложение III требует от архитектуры
Большинство обзоров сводят закон об искусственном интеллекте к кипе юридических документов: оценке рисков, декларациям соответствия и маркировке CE. Но когда технический аудитор приходит проверять кредитный конвейер или систему фильтрации резюме, он смотрит на исходный код и структуру таблиц в базе данных.
Регламент фиксирует четыре технических требования, к которым обычные пайплайны не готовы:
- Автоматическая фиксация событий (Статья 12): система обязана сохранять лог каждого вызова: точную версию весов модели, входные признаки, полученную вероятность и итоговое решение на протяжении всего срока эксплуатации.
- Контроль данных и тесты на предвзятость (Статья 10): обучающие и тестовые выборки должны проходить статистические проверки на перекосы в отношении защищенных групп кандидатов или заемщиков.
- Интерфейс вмешательства человека (Статья 14): оператор должен видеть, на основании каких признаков система вынесла решение, и иметь штатный механизм для отмены машинного вывода.
- Постмаркетинговый мониторинг (Статья 72): пайплайны должны отслеживать дрейф данных в рабочей среде и сигнализировать о падении качества калибровки модели.
Если сейчас ваш сервис принимает JSON, прогоняет через scikit-learn или XGBoost внутри контейнера Docker, пишет status: REJECTED в PostgreSQL и стирает промежуточные признаки, система не пройдет проверку по Статье 12.
Пайплайн инференса с аудит-следом
Чтобы соответствовать Статьям 12 и 14, микросервис инференса не может работать как изолированная математическая функция. Он должен действовать как журнал аудита.
Каждый вызов модели формирует три обязательных артефакта:
- Хеш входящего вектора признаков для подтверждения неизменности входных данных.
- Контрольную сумму SHA-256 файла весов модели и пайплайна предобработки.
- Запись порога принятия решения и результат проверки оператором.
Ниже приведен каркас обертки для сервиса скоринга или скоринга резюме, сохраняющий аудит-след каждого вывода:
import hashlib
import json
import time
import uuid
from typing import Any, Dict, Optional
from dataclasses import dataclass
@dataclass
class AuditRecord:
decision_id: str
timestamp_utc: float
model_name: str
model_version: str
model_sha256: str
feature_hash: str
features_sanitized: Dict[str, Any]
raw_score: float
decision_threshold: float
outcome: str
override_applied: bool = False
reviewer_id: Optional[str] = None
override_reason: Optional[str] = None
class CompliantInferenceEngine:
def __init__(self, model_artifact: Any, model_name: str, model_version: str, artifact_path: str):
self.model = model_artifact
self.model_name = model_name
self.model_version = model_version
self.model_sha256 = self._compute_artifact_hash(artifact_path)
self.decision_threshold = 0.65
def _compute_artifact_hash(self, path: str) -> str:
hasher = hashlib.sha256()
with open(path, "rb") as f:
while chunk := f.read(65536):
hasher.update(chunk)
return hasher.hexdigest()
def predict(self, raw_features: Dict[str, Any]) -> AuditRecord:
# 1. Хеширование входного вектора признаков
feature_bytes = json.dumps(raw_features, sort_keys=True).encode("utf-8")
feature_hash = hashlib.sha256(feature_bytes).hexdigest()
# 2. Вычисление вероятности моделью
score = float(self.model.predict_proba([list(raw_features.values())])[0][1])
outcome = "QUALIFIED" if score >= self.decision_threshold else "FLAGGED_FOR_REVIEW"
# 3. Формирование неизменяемой записи аудита
record = AuditRecord(
decision_id=str(uuid.uuid4()),
timestamp_utc=time.time(),
model_name=self.model_name,
model_version=self.model_version,
model_sha256=self.model_sha256,
feature_hash=feature_hash,
features_sanitized=raw_features,
raw_score=round(score, 4),
decision_threshold=self.decision_threshold,
outcome=outcome
)
self._write_to_append_only_storage(record)
return record
def record_human_review(self, decision_id: str, reviewer_id: str, final_outcome: str, reason: str):
# Статья 14: Фиксация проверки или отмены решения человеком
override_event = {
"decision_id": decision_id,
"timestamp_utc": time.time(),
"reviewer_id": reviewer_id,
"final_outcome": final_outcome,
"reason": reason
}
self._write_audit_event("human_oversight", override_event)
def _write_to_append_only_storage(self, record: AuditRecord):
# Запись в S3 с Object Lock или специализированную базу данных аудита
pass
def _write_audit_event(self, event_type: str, payload: Dict[str, Any]):
pass
Вместо числового значения вероятности сервис возвращает квитанцию с хешем модели и входных данных. Если через полтора года регулятор запросит проверку по кандидату номер 4102, инженерная команда сможет поднять точный снимок весов и признаков на момент решения.
Проверка смещения метрик в CI/CD
Статья 10 регламента требует проверять модели на предвзятость до релиза и во время работы. В найме и кредитном скоринге базовым стандартом выступает правило четырех пятых: доля одобрений среди защищенной группы кандидатов должна составлять не менее 80 процентов от доли в группе с наибольшим числом одобрений.
Если в группе А одобрение получают 60 процентов кандидатов, то в группе Б эта доля не может быть ниже 48 процентов без нарушения регуляторных норм.
Вместо ручных отчетов в таблицах инженерные команды встраивают проверку метрик прямо в конвейер непрерывной интеграции:
import numpy as np
def verify_disparate_impact(
predictions: np.ndarray,
group_labels: np.ndarray,
min_ratio: float = 0.80
) -> Dict[str, Any]:
"""
Расчет коэффициента неравномерности отбора между группами.
predictions: 1 (одобрен/прошел) или 0 (отклонен)
group_labels: массив меток подгрупп (например, 0 и 1)
"""
unique_groups = np.unique(group_labels)
selection_rates = {}
for g in unique_groups:
mask = (group_labels == g)
rate = np.mean(predictions[mask])
selection_rates[g] = float(rate)
rates = list(selection_rates.values())
max_rate = max(rates) if max(rates) > 0 else 1.0
min_rate = min(rates)
disparate_impact_ratio = min_rate / max_rate
passed = disparate_impact_ratio >= min_ratio
return {
"passed": passed,
"disparate_impact_ratio": round(disparate_impact_ratio, 3),
"selection_rates": {str(k): round(v, 3) for k, v in selection_rates.items()}
}
# Юнит-тест в пайплайне сборки модели
def test_model_compliance():
test_features, test_labels, test_demographics = load_golden_evaluation_set()
preds = deployed_model.predict(test_features)
audit_results = verify_disparate_impact(preds, test_demographics)
assert audit_results["passed"], (
f"Модель нарушает порог Статьи 10: "
f"коэффициент {audit_results['disparate_impact_ratio']} ниже 0.80"
)
Если новая версия модели снижает долю прохождения для любой группы ниже порога 0.80, пайплайн прерывает сборку. Модель не попадает на рабочий сервер.
Почему декабрь 2027 года наступит внезапно
Адаптация систем машинного обучения под требования регулятора — это не составление справок, а инженерная перестройка:
- Объем данных: логи инференса с фиксацией признаков генерируют гигабайты структурированных событий каждую неделю. Эти данные нужно хранить без права удаления и с возможностью быстрого поиска.
- Интерфейсы операторов: разработка рабочих экранов, где рекрутер или сотрудник кредитного отдела может увидеть веса признаков и зафиксировать причину ручной корректировки, требует времени фронтенд-разработки.
- Внешние API: если сервис использует сторонние облачные модели для разбора резюме, компании придется требовать гарантии соответствия от провайдера либо переходить на локальные модели.
Компании, которые отложат эту задачу до середины 2027 года, обнаружат, что их сервисы не умеют формировать историю решений, на которую рассчитывает комиссия в первый же день проверок.
Перенос сроков дал время выстроить архитектуру без спешки. Но времени на ожидание он не оставил.
Как в вашей компании устроен лог вызовов моделей в скоринге и найме? Проверяете ли вы дрейф метрик перед деплоем новой версии?