Представлен AgenticRoboRL: планировщик робота вырос с 18,1% до 71,0% на LIBERO-PRO

Представлен AgenticRoboRL: планировщик робота вырос с 18,1% до 71,0% на LIBERO-PRO

В препринте, опубликованном на Hugging Face, предложен AgenticRoboRL, фреймворк для дообучения (post-training) планировщиков роботов, работающих с разными «обвязками» (harness). Агентные робототехнические системы сочетают планировщик с обвязкой робота, чтобы выполнять сложные задачи манипуляции.

Авторы отмечают, что недавние работы улучшают такие системы за счёт более удачных обвязок и внешней памяти, но опираются на мощные закрытые модели в роли планировщиков и не улучшают возможности самого планировщика. При этом агенты для программирования заметно выросли именно благодаря дообучению самой модели. Отсюда вопрос статьи: можно ли так же улучшить планировщики роботов.

Сложность в том, что у разных обвязок разные механизмы исполнения, например, вызов навыков через VLA (модели «зрение-язык-действие») и генерация управляющего кода. Чтобы это учесть, в AgenticRoboRL для каждой обвязки используются специальные адаптеры: они связывают записанные взаимодействия планировщика с исходами задач. Благодаря этому получается единый конвейер обучения с подкреплением, а исполняющие компоненты остаются неизменными.

Рецепт обучения сочетает supervised fine-tuning (обучение на размеченных примерах) с многошаговым обучением с подкреплением.

Главный результат: на бенчмарке LIBERO-PRO AgenticRoboRL поднимает долю успешных выполнений для планировщика на 9 млрд параметров с 18,1% до 71,0% без внешней памяти. Это приближается к 72,1%, которые показывает Codex (GPT-5.5) с внешней памятью. Авторы делают вывод, что дообучение, эффективный способ улучшать планировщики роботов. Они обещают выложить фреймворк и обученные чекпойнты планировщиков.

Ключевые факты

  • AgenticRoboRL, фреймворк дообучения планировщиков роботов для разных обвязок (с вызовом VLA-навыков или генерацией управляющего кода).
  • Рецепт: supervised fine-tuning плюс многошаговое обучение с подкреплением; адаптеры для каждой обвязки дают единый конвейер RL при неизменных исполняющих компонентах.
  • На LIBERO-PRO планировщик на 9 млрд параметров вырос с 18,1% до 71,0% успеха без внешней памяти.
  • Для сравнения: Codex (GPT-5.5) с внешней памятью набирает 72,1%.
  • Авторы обещают выпустить фреймворк и чекпойнты планировщиков, но пока они не опубликованы.

Почему это важно

Системы агентной робототехники обычно улучшают через обвязки и внешнюю память, оставляя планировщиком мощную закрытую модель. Статья предлагает другой путь, дообучать сам планировщик, как это уже делают с агентами для программирования. Заявленный результат: рост с 18,1% до 71,0% на LIBERO-PRO у модели на 9 млрд параметров, почти вровень с 72,1% у Codex (GPT-5.5) с внешней памятью.

Кому это важно

Исследователям и командам, которые строят планировщики для роботов-манипуляторов и выбирают между закрытыми моделями и собственным дообучением. Также тем, кто работает с разными обвязками: подход заявлен как общий для вызова VLA-навыков и генерации управляющего кода.

Как это применить

Пока применить напрямую нельзя: авторы лишь обещают выпустить фреймворк и чекпойнты планировщиков, ссылки на репозиторий, лицензия и сроки в источнике не указаны. Идея для практики такая: записывать взаимодействия планировщика, связывать их с исходами задач через адаптеры обвязки и обучать единым конвейером RL, не трогая исполняющие компоненты.

Можно ли доверять

Это препринт: результаты заявлены самими авторами, независимой проверки в источнике нет. Цифры относятся к одному бенчмарку, LIBERO-PRO. Сравнение неполное по условиям: 71,0% получены без внешней памяти, а 72,1% у Codex (GPT-5.5), с внешней памятью. Авторов и организации в тексте аннотации назвать нельзя, базовая модель на 9 млрд параметров не указана.

Риски и подводные камни

Данных по другим бенчмаркам, реальным роботам и другим обвязкам в источнике нет, поэтому переносимость результата неизвестна. Не раскрыты вычислительные затраты, объём данных и устройство функции награды. Результат «приближается» к 72,1%, но не превосходит его. Выпуск кода и чекпойнтов пока лишь обещан.