← Назад в блог

Сроки по AI Act сдвинулись, а требования остались: что делать компаниям в найме и кредитном скоринге до декабря 2027 года

28 октября 2026 г. · 6 мин чтения
Сроки по AI Act сдвинулись, а требования остались: что делать компаниям в найме и кредитном скоринге до декабря 2027 года - Дедлайн по AI Act для систем найма и скоринга сдвинули на конец 2027 года. Почему откладывать переработку опасно и как собрать аудит-лог уже сейчас.

Когда европейские регуляторы в рамках обсуждения Digital Omnibus дали понять, что сроки проверок для систем высокого риска из Приложения III сдвинутся к концу 2027 года, технические руководители в финтехе и HR-сервисах вздохнули с облегчением. В рабочих чатах появилось привычное сообщение: У нас есть три года, пока ничего не трогаем.

Это спокойствие обманчиво.

Если ваш сервис использует машинное обучение для разбора резюме, ранжирования кандидатов на собеседования или скоринга кредитоспособности физических лиц, ваша система попадает прямо в Приложение III европейского регламента AI Act (Регламент ЕС 2024/1689). Отсрочка в календаре кажется передышкой только менеджерам. Для инженерной команды создание архитектуры под требования регламента занимает от 12 до 18 месяцев работы.

Восстановить логи задним числом перед приходом аудитора невозможно.


Что Приложение III требует от архитектуры

Большинство обзоров сводят закон об искусственном интеллекте к кипе юридических документов: оценке рисков, декларациям соответствия и маркировке CE. Но когда технический аудитор приходит проверять кредитный конвейер или систему фильтрации резюме, он смотрит на исходный код и структуру таблиц в базе данных.

Регламент фиксирует четыре технических требования, к которым обычные пайплайны не готовы:

  1. Автоматическая фиксация событий (Статья 12): система обязана сохранять лог каждого вызова: точную версию весов модели, входные признаки, полученную вероятность и итоговое решение на протяжении всего срока эксплуатации.
  2. Контроль данных и тесты на предвзятость (Статья 10): обучающие и тестовые выборки должны проходить статистические проверки на перекосы в отношении защищенных групп кандидатов или заемщиков.
  3. Интерфейс вмешательства человека (Статья 14): оператор должен видеть, на основании каких признаков система вынесла решение, и иметь штатный механизм для отмены машинного вывода.
  4. Постмаркетинговый мониторинг (Статья 72): пайплайны должны отслеживать дрейф данных в рабочей среде и сигнализировать о падении качества калибровки модели.

Если сейчас ваш сервис принимает JSON, прогоняет через scikit-learn или XGBoost внутри контейнера Docker, пишет status: REJECTED в PostgreSQL и стирает промежуточные признаки, система не пройдет проверку по Статье 12.


Пайплайн инференса с аудит-следом

Чтобы соответствовать Статьям 12 и 14, микросервис инференса не может работать как изолированная математическая функция. Он должен действовать как журнал аудита.

Каждый вызов модели формирует три обязательных артефакта:

  • Хеш входящего вектора признаков для подтверждения неизменности входных данных.
  • Контрольную сумму SHA-256 файла весов модели и пайплайна предобработки.
  • Запись порога принятия решения и результат проверки оператором.

Ниже приведен каркас обертки для сервиса скоринга или скоринга резюме, сохраняющий аудит-след каждого вывода:

import hashlib
import json
import time
import uuid
from typing import Any, Dict, Optional
from dataclasses import dataclass

@dataclass
class AuditRecord:
    decision_id: str
    timestamp_utc: float
    model_name: str
    model_version: str
    model_sha256: str
    feature_hash: str
    features_sanitized: Dict[str, Any]
    raw_score: float
    decision_threshold: float
    outcome: str
    override_applied: bool = False
    reviewer_id: Optional[str] = None
    override_reason: Optional[str] = None

class CompliantInferenceEngine:
    def __init__(self, model_artifact: Any, model_name: str, model_version: str, artifact_path: str):
        self.model = model_artifact
        self.model_name = model_name
        self.model_version = model_version
        self.model_sha256 = self._compute_artifact_hash(artifact_path)
        self.decision_threshold = 0.65

    def _compute_artifact_hash(self, path: str) -> str:
        hasher = hashlib.sha256()
        with open(path, "rb") as f:
            while chunk := f.read(65536):
                hasher.update(chunk)
        return hasher.hexdigest()

    def predict(self, raw_features: Dict[str, Any]) -> AuditRecord:
        # 1. Хеширование входного вектора признаков
        feature_bytes = json.dumps(raw_features, sort_keys=True).encode("utf-8")
        feature_hash = hashlib.sha256(feature_bytes).hexdigest()

        # 2. Вычисление вероятности моделью
        score = float(self.model.predict_proba([list(raw_features.values())])[0][1])
        outcome = "QUALIFIED" if score >= self.decision_threshold else "FLAGGED_FOR_REVIEW"

        # 3. Формирование неизменяемой записи аудита
        record = AuditRecord(
            decision_id=str(uuid.uuid4()),
            timestamp_utc=time.time(),
            model_name=self.model_name,
            model_version=self.model_version,
            model_sha256=self.model_sha256,
            feature_hash=feature_hash,
            features_sanitized=raw_features,
            raw_score=round(score, 4),
            decision_threshold=self.decision_threshold,
            outcome=outcome
        )
        
        self._write_to_append_only_storage(record)
        return record

    def record_human_review(self, decision_id: str, reviewer_id: str, final_outcome: str, reason: str):
        # Статья 14: Фиксация проверки или отмены решения человеком
        override_event = {
            "decision_id": decision_id,
            "timestamp_utc": time.time(),
            "reviewer_id": reviewer_id,
            "final_outcome": final_outcome,
            "reason": reason
        }
        self._write_audit_event("human_oversight", override_event)

    def _write_to_append_only_storage(self, record: AuditRecord):
        # Запись в S3 с Object Lock или специализированную базу данных аудита
        pass

    def _write_audit_event(self, event_type: str, payload: Dict[str, Any]):
        pass

Вместо числового значения вероятности сервис возвращает квитанцию с хешем модели и входных данных. Если через полтора года регулятор запросит проверку по кандидату номер 4102, инженерная команда сможет поднять точный снимок весов и признаков на момент решения.


Проверка смещения метрик в CI/CD

Статья 10 регламента требует проверять модели на предвзятость до релиза и во время работы. В найме и кредитном скоринге базовым стандартом выступает правило четырех пятых: доля одобрений среди защищенной группы кандидатов должна составлять не менее 80 процентов от доли в группе с наибольшим числом одобрений.

Если в группе А одобрение получают 60 процентов кандидатов, то в группе Б эта доля не может быть ниже 48 процентов без нарушения регуляторных норм.

Вместо ручных отчетов в таблицах инженерные команды встраивают проверку метрик прямо в конвейер непрерывной интеграции:

import numpy as np

def verify_disparate_impact(
    predictions: np.ndarray, 
    group_labels: np.ndarray, 
    min_ratio: float = 0.80
) -> Dict[str, Any]:
    """
    Расчет коэффициента неравномерности отбора между группами.
    predictions: 1 (одобрен/прошел) или 0 (отклонен)
    group_labels: массив меток подгрупп (например, 0 и 1)
    """
    unique_groups = np.unique(group_labels)
    selection_rates = {}

    for g in unique_groups:
        mask = (group_labels == g)
        rate = np.mean(predictions[mask])
        selection_rates[g] = float(rate)

    rates = list(selection_rates.values())
    max_rate = max(rates) if max(rates) > 0 else 1.0
    min_rate = min(rates)
    disparate_impact_ratio = min_rate / max_rate

    passed = disparate_impact_ratio >= min_ratio
    return {
        "passed": passed,
        "disparate_impact_ratio": round(disparate_impact_ratio, 3),
        "selection_rates": {str(k): round(v, 3) for k, v in selection_rates.items()}
    }

# Юнит-тест в пайплайне сборки модели
def test_model_compliance():
    test_features, test_labels, test_demographics = load_golden_evaluation_set()
    preds = deployed_model.predict(test_features)
    
    audit_results = verify_disparate_impact(preds, test_demographics)
    assert audit_results["passed"], (
        f"Модель нарушает порог Статьи 10: "
        f"коэффициент {audit_results['disparate_impact_ratio']} ниже 0.80"
    )

Если новая версия модели снижает долю прохождения для любой группы ниже порога 0.80, пайплайн прерывает сборку. Модель не попадает на рабочий сервер.


Почему декабрь 2027 года наступит внезапно

Адаптация систем машинного обучения под требования регулятора — это не составление справок, а инженерная перестройка:

  • Объем данных: логи инференса с фиксацией признаков генерируют гигабайты структурированных событий каждую неделю. Эти данные нужно хранить без права удаления и с возможностью быстрого поиска.
  • Интерфейсы операторов: разработка рабочих экранов, где рекрутер или сотрудник кредитного отдела может увидеть веса признаков и зафиксировать причину ручной корректировки, требует времени фронтенд-разработки.
  • Внешние API: если сервис использует сторонние облачные модели для разбора резюме, компании придется требовать гарантии соответствия от провайдера либо переходить на локальные модели.

Компании, которые отложат эту задачу до середины 2027 года, обнаружат, что их сервисы не умеют формировать историю решений, на которую рассчитывает комиссия в первый же день проверок.

Перенос сроков дал время выстроить архитектуру без спешки. Но времени на ожидание он не оставил.


Как в вашей компании устроен лог вызовов моделей в скоринге и найме? Проверяете ли вы дрейф метрик перед деплоем новой версии?

Есть проект на прицеле?

Давайте обсудим, как мы можем помочь.

Есть идея проекта? →