Рекурсивное самоулучшение ИИ: что уже умеют агенты

Идея рекурсивного самоулучшения звучит почти как сюжет фантастики: модель создаёт более сильную модель, та ускоряет следующую итерацию, и процесс выходит из-под человеческого контроля. В реальной инженерной практике всё прозаичнее и потому интереснее. ИИ уже помогает исследователям писать код, разбирать результаты экспериментов и искать ошибки, но сам по себе не выбирает надёжную цель и не доказывает ценность найденного решения.

Полезно отделить три вещи, которые часто смешивают: способность модели решать сложные задачи, автоматизацию исследовательского цикла и полностью автономное улучшение самой модели. Первые две уже становятся рабочими инструментами. Третья остаётся гипотезой, а не текущей реальностью.

Что именно может улучшать агентная система

Развитие модели зависит не только от её весов. Вокруг неё есть среда: промпты, инструменты, память, правила вызова кода, порядок проверки результата, набор тестов и способ остановки задачи. Улучшать можно каждый из этих элементов, не переобучая базовую модель.

Например, агент может сохранить историю неудачных попыток решения задачи и заметить, что слишком долго идёт по бесперспективной ветке. В следующем прогоне оркестратор ограничит число попыток, параллельно проверит несколько гипотез или раньше передаст задачу человеку. Это не означает, что система стала умнее во всех смыслах. Она стала экономнее в конкретном процессе.

• Анализ журналов экспериментов помогает находить повторяющиеся сбои.
• Автоматические тесты отсекают изменения, которые ухудшили измеримый результат.
• Разделение ролей позволяет одному агенту генерировать варианты, а другому искать нарушения условий.
• Скрытая выборка проверяет, не подогнали ли новую конфигурацию под знакомые тесты.

Такой подход особенно полезен в разработке: можно менять стратегию поиска ошибок, очередность инструментов или правила декомпозиции задачи. Но качественный скачок зависит от того, насколько хорошо задан критерий успеха.

Почему узкое место — не скорость генерации кода

Модель способна быстро предложить десятки реализаций. Гораздо сложнее ответить, какую задачу вообще стоит исследовать, какие данные считать достаточным доказательством и когда хороший локальный результат ведёт в неверную сторону. Этот слой обычно называют исследовательским вкусом. В нём есть предметное знание, понимание цены ошибки и умение вовремя отказаться от красивой, но пустой гипотезы.

Поэтому полезный цикл улучшения начинается не с команды «сделай себя лучше», а с узкой формулировки: сократить время прохождения набора тестов, уменьшить число ложных срабатываний, повысить воспроизводимость анализа. У цели должны быть исходное значение, допустимый бюджет и независимая проверка. Без этого система легко оптимизирует метрику вместо реальной работы.

Как выглядит управляемый цикл улучшений

Надёжный процесс похож на обычный инженерный эксперимент. Сначала фиксируют базовую конфигурацию и результаты. Затем агент предлагает одно ограниченное изменение: новый инструмент, инструкцию, правило маршрутизации или способ хранения памяти. Изменение запускают на тренировочном наборе, после чего проверяют на отложенных задачах. Только если улучшение сохраняется при том же бюджете, его допускают к следующему циклу.

Важно менять по одному существенному компоненту за раз. Иначе невозможно понять, что именно помогло, а что случайно совпало с удачным прогоном. Для критичных задач стоит хранить версию конфигурации, логи вызовов и причину каждого принятого решения. Тогда откат не превращается в расследование по обрывкам чата.

Где возникает риск

Риск появляется не из-за самого слова «самоулучшение», а из-за сочетания автономных действий, широких прав и слабой проверки. Агент, которому разрешено менять собственные инструкции, публиковать результаты и использовать внешние источники без контроля, может создать видимость успеха. Он не обязан быть «злонамеренным»: достаточно неверной метрики, ошибочного источника или слишком настойчивой попытки завершить задачу.

Поэтому для экспериментальных систем нужны технические границы: изолированная среда, лимиты времени и расходов, список разрешённых инструментов, независимый набор проверок и человек, который утверждает изменения. Чем больше прав у агента, тем уже должен быть его контур задач.

Что можно сделать уже сейчас

Командам не нужно ждать появления автономного исследователя, чтобы извлечь пользу из этой идеи. Начните с одного повторяемого процесса: анализа падений тестов, поиска регрессий, подготовки кандидатов на рефакторинг. Опишите хорошее решение так, чтобы его можно было проверить без доверия к тексту модели. Сохраняйте не только итоговый ответ, но и входные данные, версию инструментов и оценку после запуска.

ИИ хорошо ускоряет перебор вариантов и рутину вокруг эксперимента. Человек по-прежнему нужен там, где выбирают направление, оценивают последствия и решают, достаточно ли доказательств. Это не временная оговорка, а рабочее разделение ролей для систем, которые действительно хочется безопасно улучшать.