Mage-VL-Cowork: агент на 4B параметров набрал 66,0% на OSWorld-Verified
В препринте на arXiv представлен Mage-VL-Cowork, гибридный агент для работы за компьютером (computer-use agent, CUA) размером 4B параметров. Исходная посылка авторов: эффективный агент должен в рамках единой политики (одной модели) сочетать визуальную работу с графическим интерфейсом и выполнение кода и команд в терминале.
Модель обучали на базе общего мультимодально выровненного чекпойнта по сквозной прогрессивной программе из пяти этапов, которая охватывает промежуточное дообучение (midtraining), контролируемое дообучение (SFT) и обучение с подкреплением (RL). Что именно входит в каждый из пяти этапов, в аннотации не расписано.
Для масштабирования этой программы авторы сделали конвейер Mage-CUA-Forge, синтезирующий обучающие задачи. Вместо построения отдельного агента под каждую задачу он использует переиспользуемые рабочие процессы генерации, привязанные к навыкам, и подготовители под конкретные приложения. С его помощью сгенерировано 293 806 задач для десктопа и веба по 6 915 навыкам; повторяющиеся затраты на одну задачу, по утверждению авторов, снижены на 82,6%.
Вторая ключевая идея, работа с «обвязкой» (harness) модели-учителя. Вместо прямой дистилляции готового учителя авторы эволюционируют его обвязку и создают специализированные обвязки для агента. Это даёт качественные траектории (записи действий) и отдельную supervision-разметку под каждый этап обучения.
Итог: Mage-VL-Cowork-4B, по словам авторов, поэтапно поднимается до 66,0% на OSWorld-Verified при более экономном расходе на рассуждения. Авторы называют результат лучшим среди моделей своего размера и шагом вперёд для интеллекта на устройстве (on-device).
Ключевые факты
- Mage-VL-Cowork, гибридный агент на 4B параметров: сочетает работу с графическим интерфейсом, код и терминал в одной политике.
- Обучение идёт по пятиэтапной программе (midtraining, SFT, RL) на основе общего мультимодального чекпойнта.
- Конвейер Mage-CUA-Forge синтезировал 293 806 задач для десктопа и веба по 6 915 навыкам; повторяющиеся затраты на задачу, по заявлению авторов, снижены на 82,6%.
- Вместо прямой дистилляции учителя авторы эволюционируют его обвязку (harness) и создают специализированные обвязки для получения траекторий и разметки по этапам.
- Итоговый результат, 66,0% на OSWorld-Verified; авторы называют его лучшим среди моделей такого размера.
Почему это важно
Работа показывает, как небольшую модель на 4B параметров учат решать задачи за компьютером, комбинируя клики по интерфейсу с кодом и терминалом. Авторы заявляют 66,0% на OSWorld-Verified и позиционируют результат как продвижение интеллекта на устройстве. Отдельный интерес, сам рецепт: синтез задач в масштабе и эволюция обвязки учителя вместо прямой дистилляции.
Кому это важно
Исследователям и инженерам, которые строят агентов для работы с компьютером и обучают небольшие модели. Также тем, кого интересуют синтез обучающих задач и многоэтапное обучение с подкреплением для агентов.
Как это применить
Из аннотации можно взять общий подход: единая политика для интерфейса и кода, синтез задач по навыкам и поэтапное обучение. В аннотации не названы ни лицензия, ни цена, ни готовые веса, поэтому практически повторить рецепт можно будет только после чтения полной статьи.
Можно ли доверять
Это препринт на arXiv, а все цифры, самооценка авторов. В аннотации не названы авторы и организации, не приведены результаты других моделей на OSWorld-Verified, поэтому утверждение о лучшем результате среди моделей такого размера проверить по ней нельзя. Снижение затрат на 82,6% не привязано к конкретной базе сравнения, а «более экономный расход на рассуждения» не выражен числом.
Риски и подводные камни
Заявление о лучшем результате для своего размера не подкреплено в аннотации сравнением с конкурентами. Неясно, какая модель-учитель использована и что входит в каждый из пяти этапов. Об открытости модели, данных и кода в аннотации ничего не сказано, так что воспроизводимость остаётся под вопросом до выхода полного текста и материалов.