Agent as Policy: ИИ-агент напрямую управляет роботом-манипулятором без обучения под задачу

Авторы работы представили Agent as Policy (AGP), подход, при котором задачи планирования и исполнения передаются напрямую универсальному ИИ-агенту, без обучения под конкретную задачу или конкретную среду. Агенту дают формулировку задачи и интерфейс робота: он анализирует визуальные данные с камеры, пишет исполняемый программный код, отдаёт роботу команды на движение и по итогам физического результата корректирует собственные действия, работает в замкнутом цикле «увидел, написал код, подвинул, проверил, исправил».

Авторы протестировали AGP на нескольких реальных задачах манипуляции физическими объектами из разных категорий: точные операции, динамичные движения и работа с деформируемыми предметами. В список вошли: сборка по видео с человеком, строительство из кубиков по целевому изображению, переориентация игрального кубика, прицельный бросок предмета и складывание полотенца двумя манипуляторами. Количественные результаты в тексте приведены только для строительства из кубиков: на трёх разных конфигурациях агент показал успешность 100%, 100% и 80% (в тексте не указано, какая именно конфигурация дала какой результат). Для остальных четырёх типов задач числовых показателей источник не приводит.

По выводу авторов, результаты открывают путь для универсальных ИИ-агентов действовать в роли управляющей политики робота, расширять их автономность на физические манипуляции за счёт рассуждений, написания кода и взаимодействия со средой в реальном времени, без предварительного обучения под конкретную задачу.

Ключевые факты

Agent as Policy (AGP), универсальный ИИ-агент напрямую управляет физическим роботом без обучения под конкретную задачу или среду.
Агент анализирует визуальные данные, пишет исполняемый код, отдаёт команды на движение и корректирует действия по итогам физического результата.
Протестирован на пяти типах задач: сборка по видео человека, строительство из кубиков по изображению, переориентация кубика, прицельный бросок и складывание полотенца двумя манипуляторами.
На трёх конфигурациях строительства из кубиков успешность составила 100%, 100% и 80%, единственные числовые результаты в тексте.
Авторы: работа открывает путь для универсальных агентов выступать управляющей политикой роботов через рассуждения и написание кода в реальном времени.

Почему это важно

Обычно роботов для манипуляции объектами учат под конкретную задачу и конкретную среду, методом имитационного обучения или обучения с подкреплением, и перенос на новую задачу требует нового цикла обучения. AGP предлагает другой путь: вместо обучения отдельной физической политики движения задачу решает универсальный ИИ-агент, который рассуждает, пишет код и на лету реагирует на физический результат, без специализированного обучения под конкретный робот или сценарий. Если подход масштабируется, это меняет саму модель разработки робототехнических систем: настройка под новую задачу сводится к формулировке задачи, а не к переобучению модели.

Кому это важно

Разработчикам и исследователям в робототехнике, командам, которые создают воплощённые ИИ-агенты для работы с физическим миром, и тем, кто ищет способ перенести ИИ-агентов из чисто цифровой среды (код, браузер) в манипуляцию реальными объектами без дорогостоящего сбора данных под каждую новую задачу.

Как это применить

В тексте источника не названы ни базовая модель, на которой построен агент, ни авторская организация, ни площадка и сроки публикации, судить о готовности к практическому использованию по одному абстракту нельзя. Схема применения, которую описывают авторы: агенту задают формулировку задачи и интерфейс конкретного робота, дальше он сам интерпретирует визуальные данные, генерирует исполняемый код, отдаёт команды на движение и правит их по итогам выполнения, встраивание сводится к подключению агента к интерфейсу манипулятора, а не к обучению отдельной модели под задачу.

Можно ли доверять

Источник, карточка препринта на Hugging Face Papers с абстрактом статьи; о независимом рецензировании в тексте ничего не сказано. Количественные результаты приведены только для одной из пяти протестированных категорий задач, трёх конфигураций строительства из кубиков (100%, 100%, 80%); для сборки по видео, переориентации кубика, прицельного броска и складывания полотенца числовых показателей источник не даёт, так что оценить успешность на этих задачах по тексту нельзя. Имена авторов, институциональная принадлежность и используемая базовая модель в тексте отсутствуют.

Риски и подводные камни

Заявленная успешность 100% на двух из трёх конфигураций сборки из кубиков, результат на ограниченном наборе тестов в контролируемых условиях, а не гарантия устойчивости на произвольных сценариях; для остальных четырёх типов задач числовых данных нет вовсе, поэтому судить об их надёжности нельзя. Работа агента строится на пересмотре действий «на лету» по физическому результату, в реальной среде ошибка рассуждения или программного кода способна привести к повреждению объекта или самого робота, а не только к неудачному результату теста.