Microsoft Research: сброс истории чата помогает ИИ-агентам находить лучшие решения

Исследователи Microsoft Research изучили то, что называют «Autoresearch agents» (исследовательские агенты): ИИ-системы, которые многократно предлагают решения, оценивают их и дорабатывают по обратной связи. Восемь независимых запусков одного и того же агента на одной и той же задаче вышли на плато на сильно разных уровнях: итоговые оценки лежали в диапазоне от 68,3 до 100,0. По данным работы, этот разрыв сохранялся даже при существенно большем объёме вычислений.

Чтобы понять причину, авторы нанесли решения из всех запусков на двумерную карту, где похожие решения расположены рядом. Решения одного запуска почти всегда оставались в небольшой области карты. Авторы называют такие области «idea basins» («бассейны идей»). Агенты тратят значительную долю оставшегося вычислительного бюджета на доработку решений внутри менее продуктивной области, вместо того чтобы найти лучшие подходы, которые обнаружили другие запуски. Эта картина сохраняется, даже если агенты периодически сжимают историю своих диалогов.

Предложенный метод Fork-and-Flush сочетает два механизма. В «forking» (ветвлении) агент делится на K параллельных веток, каждая из которых наследует прежнее рабочее пространство и все созданные файлы. Во «flushing» (сбросе) каждая ветка теряет весь контекст чата, но сохраняет рабочее пространство, поэтому начинает новый диалог и опирается на уже сделанную работу. Ветка, сохранившая контекст родительского процесса, склонна возвращаться в тот же бассейн идей, потому что прежние рассуждения направляют её следующие шаги. Свежий контекст возвращает разнообразие поиска. История переписки теряется, а код, файлы и сохранённые результаты остаются в рабочем пространстве.

Метод проверили на 13 долгих задачах: упаковка полимино, задача календарного планирования job-shop, криптоанализ, сжатие классификатора CIFAR, оптимизация ядра для VLIW-процессора. Отдельные запуски длились от нескольких часов до более 100 часов. Агенты работали на моделях GPT-5.6-terra и GPT-5.5 через GitHub Copilot CLI. При одинаковом вычислительном бюджете Fork-and-Flush набрал средний балл 0,78 (нормировка min-max) против 0,47 у одиночных запусков и 0,54 у схемы «лучший из четырёх запусков» (best-of-4). Работа приводит относительный прирост 66,0 и 44,4 процента соответственно. Наивысший средний результат метод показал на 12 из 13 задач. Результаты стали и стабильнее: нормированное стандартное отклонение снизилось до 0,16 с 0,26 у одиночных запусков. Простая очистка контекста без ветвления улучшила результаты на 22 процента.

Отдельно авторы проверили, избегают ли бассейнов идей более сильные модели. Для этого взяли задачи MAX-3-SAT и три размера модели: Qwen3.5-4B, 9B и 27B. Разброс между запусками описывался обратной U-образной кривой и достигал максимума на задачах на границе возможностей модели, примерно посередине между уровнем случайного угадывания и уровнем эталонного решателя. Авторы приводят довод, что открытые исследовательские проблемы по определению лежат на пределе возможностей моделей, и ожидают, что вариативность, которую использует Fork-and-Flush, сохранится по мере улучшения моделей, а граница просто сдвинется к более сложным задачам. Результаты, по формулировке материала, говорят о том, что регулярные сбросы контекста могут оставаться полезными даже для передовых исследовательских агентов.

Ключевые факты

Восемь независимых запусков одного агента на одной задаче вышли на плато с итоговыми оценками от 68,3 до 100,0, и разрыв сохранялся при росте вычислений.
Решения одного запуска почти всегда остаются в небольшой области карты решений («idea basins»); накопленный контекст чата удерживает агента в ней, даже если историю периодически сжимают.
Fork-and-Flush делит агента на K веток с общим рабочим пространством и стирает у каждой историю чата, сохраняя код и файлы.
На 13 долгих задачах при том же бюджете средний нормированный балл составил 0,78 против 0,47 у одиночных запусков и 0,54 у best-of-4; лучший средний результат на 12 из 13 задач.
Простая очистка контекста без ветвления дала улучшение на 22 процента; стандартное отклонение снизилось до 0,16 с 0,26.

Почему это важно

Обычный способ помочь агенту, который застрял, дать ему больше времени и вычислений. Исследование показывает, что для долгих исследовательских агентов этого может быть недостаточно: разрыв между запусками сохраняется и при существенно большем бюджете. Авторы связывают это с накопленным контекстом беседы, который удерживает поиск в одной области похожих решений, и предлагают вмешательство, не требующее потери проделанной работы: сбрасывать историю чата, оставляя рабочее пространство.

Кому это важно

Разработчикам и исследователям, которые запускают долгие агентные циклы (оптимизация, перебор решений, инженерные и исследовательские задачи с автоматической оценкой результата), а также тем, кто проектирует оркестрацию агентов и решает, сжимать ли историю диалога или начинать с чистого листа.

Как это применить

Идея из материала такая: в момент ветвления создать K параллельных веток от текущего рабочего пространства и каждой дать пустую историю чата, оставив код, файлы и сохранённые результаты. Самый простой вариант, о котором сообщается, очистка контекста без ветвления: она улучшила результаты на 22 процента. Значение K, код и пошаговая инструкция в материале не приводятся.

Можно ли доверять

Это пересказ исследования Microsoft Research в The Decoder. Цифры приведены по данным самой работы: сравнение шло на одном вычислительном бюджете и на 13 задачах. В материале не названы заголовок работы, авторы и дата, и не сказано, что она прошла рецензирование. Выводы о том, что сильные модели тоже будут нуждаться в сбросе контекста, ожидание авторов, а не измеренный результат; прямая проверка касалась только моделей Qwen3.5 на задачах MAX-3-SAT.

Риски и подводные камни

Результаты получены на 13 задачах и двух моделях (GPT-5.6-terra и GPT-5.5), так что перенос на другие задачи и агентов не гарантирован. На одной из 13 задач Fork-and-Flush не показал наивысшего среднего балла; какая это задача, источник не называет. Сброс контекста стирает историю рассуждений: ветка опирается только на то, что сохранено в файлах и результатах. Для цифры в 22 процента источник не указывает базу сравнения.

«Свежий контекст восстанавливает разнообразие поиска.»

— The Decoder, пересказ исследования Microsoft Research