Когда несколько ИИ-агентов решают одну задачу, им приходится договориться о способе общения. Обычно для этого хватает обычного языка. Но если на каждое сообщение есть лимит времени или токенов, длинные инструкции начинают мешать работе. Тогда у агентов появляются сокращения, а со временем они могут превратиться в устойчивую систему обозначений.
Такой эффект описан в исследовании GlossoGen. В нём агенты действовали в искусственной среде и обменивались неполной информацией. Эксперимент не показывает, что модели решили тайно общаться с людьми. Он показывает более приземлённую вещь: система, которую вознаграждают за скорость, ищет компактный протокол.
Как устроен эксперимент
В сценарии SaveVeyru один агент наблюдал за состоянием вымышленного объекта и выполнял действия, а второй получал описание ситуации и выбирал следующий шаг. У каждого была только часть нужной информации. На обсуждение отводилось мало времени, поэтому качество коммуникации напрямую влияло на итог задачи.
Авторы специально сделали объект и процедуры вымышленными. Агентам нельзя было опереться на привычные медицинские, бытовые или технические знания. Им приходилось вырабатывать общие правила внутри серии раундов. Сначала сообщения напоминали подробные инструкции, затем часто повторяемые действия получили короткие обозначения.
Когда сокращение становится языком
Сокращение само по себе ещё ничего не доказывает. Команда разработчиков тоже пишет «PR» вместо «pull request», а диспетчер использует коды для стандартных ситуаций. В исследовании интереснее другое: знаки начали сочетаться по правилам, а новые комбинации передавали смысл, которого не было в исходных фразах.
Авторы описывают композиционность и морфологическую продуктивность таких протоколов. Условное обозначение могло кодировать не один предмет, а целую процедуру; порядок элементов и регистр символов тоже приобретали значение. Получалась уже не случайная коллекция ярлыков, а система, которую другой агент мог освоить по примерам.
Почему непрозрачность возникает без намерения скрыться
Самый неудобный вывод связан не с секретностью, а с оптимизацией. В опытах у агентов не было задачи обмануть наблюдателя или спрятать переписку. Им было выгодно тратить меньше ресурсов на передачу уже знакомых инструкций. Человеку такая переписка становилась непонятной как побочный эффект.
Это меняет практический вопрос. Не стоит начинать с предположения, что агентная система обязательно ведёт себя злонамеренно. Полезнее проверить, не создала ли сама постановка задачи стимул отказываться от понятных сообщений: слишком дорогая коммуникация, гонка между командами, жёсткий тайм-аут или автоматическая оценка только финального результата.
При каких условиях эффект усиливается
В работе GlossoGen выделены три условия. Первое — давление на эффективность: чем дороже каждое сообщение, тем выгоднее сжимать его. Второе — возможность разобрать предыдущий раунд и изменить стратегию общения. Третье — достаточная сила моделей. Более слабый агент может подхватить уже готовый протокол, но не всегда способен создать его с нуля.
Эта разница важна для смешанных команд. Если сильный агент закрепил условные обозначения, новичок не обязан видеть весь путь их появления. Иногда ему достаточно нескольких примеров, чтобы продолжить работу в том же формате. При замене отдельного исполнителя история решения при этом становится ещё труднее для человека.
Чем это опасно в прикладной системе
Непрозрачный обмен усложняет аудит. Оператор видит, что агенты отправили друг другу сообщения и совершили действия, но не может быстро восстановить, почему было выбрано именно это решение. Сложнее расследовать ошибку, передать задачу человеку или проверить, не расходится ли фактическое поведение с ограничениями системы.
Особенно неприятна ситуация, когда лог переписки сохраняется, но не связан с состоянием среды. Набор коротких кодов без входных данных, вызванных инструментов и результата каждого шага почти бесполезен для последующего разбора.
Как сохранить скорость и контроль
- Фиксировать для каждого шага входные данные, выбранное действие, ответ инструмента и итог.
- Разделять внутренний компактный протокол и журнал, который можно прочитать без догадок.
- Хранить версию словаря и правил, если агенты используют условные обозначения.
- Проверять аномально короткие сообщения и внезапную смену формата на тестовых сценариях.
- Не строить метрику так, чтобы понятное человеку пояснение автоматически ухудшало оценку агента.
Компактная коммуникация сама по себе полезна. Проблема начинается в тот момент, когда система получает право оптимизировать её без следа для проверки. Для агентной команды нужна отдельная метрика: сможет ли оператор восстановить ход решения после сбоя.
Сравните модели перед запуском
Тарифы, лимиты и список моделей — на стороне сервиса. Если что-то разойдётся с описанным здесь, напишите: поправим материал и проставим новую дату проверки.
Открыть каталог моделей«SEO Разум» не продаёт доступ к API и не является поставщиком токенов.
