Представлена The Trinity: самоулучшение мультимодальных агентов
В статье с Hugging Face Papers (2610.36077) представлен The Trinity, фреймворк рекурсивного самоулучшения для мультимодальных агентов. Он связывает генерацию «миров» (сред, в которых агент учится) с эволюцией Harness, обвязки агента, через три роли: Creator, Explorer и Evolver.
Исходная проблема, как её формулируют авторы: мультимодальный интеллект можно рассматривать как совместную эволюцию миров и агентов при участии человека, но масштабировать этот процесс мешают два узких места. Во-первых, построение разнородных проверяемых сред стоит дорого. Во-вторых, ручная доработка Harness не успевает за растущим разнообразием и сложностью задач.
Ключевая идея: задачи с разными модальностями и внешней формой могут разделять одни и те же базовые требования к способностям. Поэтому Evolver, опираясь на проверенные траектории выполнения, меняет принцип организации задач: вместо поверхностных категорий, общие требования. Исходное дерево задач он перестраивает в иерархическое дерево способностей.
Далее вводится подход Capability-Driven Real2Sim2Real. Для разнородных задач, попавших в один узел дерева, Creator выделяет их общие требования и превращает в упрощённые проверяемые симулированные миры, где агент осваивает способность. Перенос навыка при этом измеряется на исходных задачах.
По дереву способностей Explorer постепенно развивает переиспользуемые модули способностей через выборочное наследование. Получается дерево Harness, в котором проверенные обновления накапливаются от итерации к итерации при фиксированной топологии. Поскольку итоговые Harness специализируются на разных способностях, авторы добавляют Capability-Aware Harness Router: он использует публичную информацию о задаче и подбирает из дерева совместимую конфигурацию модулей.
Итог по заявлению авторов: эволюционировавшие Harness повышают средний результат на 34 пункта на 28 обучающих бенчмарках и на 26 пунктов на 18 не виденных ранее бенчмарках, среди которых две реальные задачи воплощённого ИИ (embodied tasks).
Ключевые факты
- The Trinity, фреймворк рекурсивного самоулучшения, связывающий генерацию миров с эволюцией Harness (обвязки агента) через три роли: Creator, Explorer и Evolver.
- Evolver по проверенным траекториям выполнения перестраивает дерево задач в иерархическое дерево способностей: задачи группируются по общим требованиям, а не по внешним категориям.
- Creator упрощает общие требования задач одного узла до проверяемых симулированных миров (Capability-Driven Real2Sim2Real), а Explorer наращивает дерево Harness модулями способностей.
- Capability-Aware Harness Router по публичной информации о задаче выбирает из дерева подходящую конфигурацию модулей.
- Авторы заявляют прирост среднего результата на 34 пункта на 28 обучающих бенчмарках и на 26 пунктов на 18 не виденных бенчмарках, включая две реальные задачи воплощённого ИИ.
Почему это важно
Авторы упираются в реальное ограничение развития агентов: среды для обучения дорого строить, а ручная настройка Harness не поспевает за разнообразием задач. The Trinity пытается автоматизировать оба процесса сразу, и создание миров, и эволюцию обвязки. Центральная идея, группировать задачи по общим требованиям к способностям, а не по внешнему виду, делает подход потенциально переносимым между модальностями.
Кому это важно
Исследователям агентных систем и мультимодальных моделей, а также командам, которые занимаются построением сред для обучения и оценки агентов и автоматической настройкой обвязки агентов. Интересна работа и тем, кто занят воплощённым ИИ (embodied AI): в оценку включены две реальные задачи такого рода.
Как это применить
Это исследовательская статья; в доступном описании не говорится о выпуске кода, данных или моделей, поэтому прямого инструмента для использования здесь нет. Практически полезны сами идеи: перестроить набор задач в дерево способностей, учить способность на упрощённых проверяемых симуляциях, проверять перенос на исходных задачах и подбирать конфигурацию модулей маршрутизатором по публичной информации о задаче.
Можно ли доверять
Все сведения взяты из аннотации статьи на Hugging Face Papers, то есть это заявления самих авторов. Цифры 34 и 26 пунктов приведены без указания базовой линии и шкалы метрики, а сами бенчмарки и использованные базовые модели в аннотации не названы. Сравнения с другими методами самоулучшения в аннотации тоже нет. Оценивать результат стоит после чтения полного текста и независимой проверки.
Риски и подводные камни
Без базовой линии и описания метрики невозможно понять, насколько велик прирост в «пунктах». Неясно, в каком объёме результаты воспроизводятся на других агентах и задачах: о двух реальных задачах воплощённого ИИ раздельных результатов не приведено. Подход опирается на упрощённые симулированные миры, и качество переноса на исходные задачи зависит от того, насколько хорошо Creator выделяет общие требования.
«Задачи с разными модальностями и внешней формой могут разделять одни и те же базовые требования к способностям.»
— из аннотации статьи The Trinity (Hugging Face Papers)