Цикл агента: почему языковая модель еще не программист
В академию приходит парень с сильным ударом.
Он вколачивает мяч в сетку с тридцати метров. Но на первой же игре тренер хватается за голову: парень получает мяч, утыкается глазами в траву и лупит вперед. Если перед ним защитник — мяч летит в защитника. Мяч отскакивает обратно — парень бьет снова. Он не смотрит по сторонам, не видит открытых партнеров и не замечает пустые ворота с фланга.
У него есть удар, но нет игрового цикла.
Многие считают, что чат-бот и кодинг-агент — это одно и то же. Разница между ними определяет, решит ИИ задачу или сломает репозиторий.
Реальность
Языковая модель сама по себе — это игрок с опущенной головой. Она умеет лишь предсказывать следующие слова в тексте.
Если скормить ей ошибку, она выдаст правдоподобный код с исправлением. Но модель не знает, есть ли этот файл на диске, собирается ли проект и не сломал ли ее код соседние модули.
Чтобы превратить модель в агента, вокруг нее разворачивают фреймворк — агентский цикл.
Модели дают четыре инструмента:
read_file— поднять голову и оценить расстановку.write_file— выйти на свободную позицию.edit_file— отдать пас в ноги.bash— пробить по мячу и посмотреть на табло.
Дальше работает цикл. Модель разбирает задачу, вызывает инструмент, получает ответ от системы и смотрит на результат. Упал тест? Текст ошибки возвращается в модель как новое наблюдение. Модель меняет код и снова прогоняет тест. Цикл крутится, пока тесты не пройдут.
Почему это важно
Собрать работающего агента можно за двести строк кода. Вы берете вызовы API, прикручиваете четыре функции для файлов и терминала — и на простых скриптах это сработает.
Но в рабочем репозитории агент на двести строк ломается на первых минутах.
В чем подвох?
Ловушки среды.
Первая ловушка — мусор в выводе. Агент запускает сборку, консоль выдает десять тысяч строк логов, и контекст модели забивается до предела. Агент слепнет и забывает задачу.
Вторая ловушка — ошибка в одну букву при замене кода. Простой агент пытается переписать строку, не находит точного совпадения в файле и падает. Он повторяет то же действие, ошибается снова и зацикливается, сжигая деньги за пару минут.
Продакшен-фреймворк отличается от учебного скрипта не мощью модели, а защитой от сбоев: обрезкой логов, поиском по файлам, остановкой зацикливаний и контролем доступа к системе.
Главная мысль
Интеллект модели находит решение, но работу выполняет цикл вокруг нее: способность проверить результат и исправить ошибку на следующем шаге.
Специалисты по ИИ называют это: Агентский цикл (The Agent Loop) / Агентский фреймворк (Agent Harness/Framework) / Инструменты агента (Tool Use & Action-Observation Cycle)
Агентский цикл представляет собой конечный автомат над большой языковой моделью. На каждом шаге модель получает контекст задачи и результаты предыдущих действий, генерируя вызов инструмента (Tool Call). Фреймворк (Harness) детерминированно исполняет команду в среде (чтение и запись файлов, запуск bash) и возвращает вывод обратно в модель как новое наблюдение (Observation) до тех пор, пока задача не будет решена.
💬 Встречались ли вам программисты, которые при падении теста просто перезапускали его снова и снова без единой правки в коде, надеясь на чудо?
Часть 1 из 10 | #CodingAgentsForHumans