Представлен CarryOn: контекст ИИ-агентов строится на объектах задачи, а не на истории
Авторы статьи отталкиваются от наблюдения: агенты, которые работают над задачей долго, накапливают прогресс в устойчивом состоянии задачи, но при этом снова и снова обрабатывают истории взаимодействий, описывающие, как этот прогресс был достигнут. Отсюда вопрос: можно ли организовать долгосрочный контекст вокруг переиспользуемого прогресса, а не вокруг истории, которая к нему привела?
Ответ авторов, CarryOn, объектно-ориентированная среда исполнения контекста (runtime). Она выстраивает продолжение работы вокруг переиспользуемых объектов задачи. Сжатые истории или восстановленные пересказы прогресса не считаются основной базой для продолжения. Вместо этого CarryOn собирает представление контекста из трёх частей: носителей продолжения (continuation carriers), дополняющего контекста исполнения и «живого хвоста», последних взаимодействий.
Главная трудность, как её формулируют авторы, сохранять эту переиспользуемую основу корректной после того, как окружающая её история удалена. Иначе говоря, как обновлять основу, не пересобирая всё представление целиком на каждом шаге свёртки (fold). Для этого CarryOn ведёт записи-носители от свёртки к свёртке: затронутые записи пересматриваются с учётом привязанных свидетельств и применимых проверок среды, незатронутые переносятся дальше без изменений, а контекст исполнения обновляется совместно с ними.
Результаты приведены в аннотации одной фразой: эксперименты на OSWorld 2.0 и BrowseComp-Plus показывают приросты 5,8% и 7,0% соответственно при сокращении общего расхода токенов на 51,9% и 22,9% соответственно. Метрика, по которой считаются приросты, базовые методы для сравнения и использованные модели в тексте аннотации не названы. Есть страница проекта: ethannju.github.io/carryon.
Ключевые факты
- CarryOn, объектно-ориентированная среда исполнения контекста для долгоживущих ИИ-агентов: продолжение работы строится вокруг переиспользуемых объектов задачи, а не сжатой истории.
- Контекст собирается из носителей продолжения, дополняющего контекста исполнения и «живого хвоста» последних взаимодействий.
- Записи-носители обновляются от свёртки к свёртке: затронутые пересматриваются по свидетельствам и проверкам среды, незатронутые переносятся без изменений.
- На OSWorld 2.0 и BrowseComp-Plus заявлены приросты 5,8% и 7,0% соответственно.
- Общий расход токенов сокращён на 51,9% на OSWorld 2.0 и на 22,9% на BrowseComp-Plus.
Почему это важно
Долгие задачи агентов упираются в контекст: если на каждом шаге заново обрабатывать историю того, как был достигнут прогресс, растут расход токенов и нагрузка на окно контекста. CarryOn предлагает сменить единицу хранения: не история действий, а переиспользуемые объекты задачи с проверяемой связью со свидетельствами. По заявлению авторов, это даёт одновременно прирост результата и заметную экономию токенов.
Кому это важно
Разработчикам и исследователям агентных систем, которые сталкиваются с длинными сценариями: управление компьютером, многошаговый веб-поиск. Также тем, кто занимается управлением контекстом и памятью агентов и считает стоимость запуска в токенах.
Как это применить
Из аннотации видно лишь общее устройство подхода: что хранить в виде носителей, как обновлять их при свёртке и что оставлять «живым хвостом». Готовых инструкций, сведений о реализации и о доступности кода в тексте нет; упомянута только страница проекта ethannju.github.io/carryon. Для применения понадобится читать полную статью.
Можно ли доверять
Все цифры взяты из аннотации и являются заявлениями самих авторов; независимой проверки в материале нет. Не указано, по какой метрике считаются приросты 5,8% и 7,0%, в процентных пунктах они или относительные, и относительно каких базовых методов сравнивается расход токенов. Из-за этого величину эффекта по аннотации оценить нельзя.
Риски и подводные камни
Ключевой риск, который называют сами авторы, сохранение корректности переиспользуемой основы после удаления породившей её истории: ошибочная запись-носитель может тянуться дальше. Какие у метода ограничения, сбои и абляции, в аннотации не описано. Результаты показаны на двух тестах, поэтому перенос на другие задачи и модели остаётся открытым вопросом.
«Можно ли организовать долгосрочный контекст вокруг переиспользуемого прогресса, а не вокруг истории, которая к нему привела?»
— Из аннотации статьи о CarryOn