Axion 1.0: полностью открытая модель для ИИ-агентов с простым рецептом обучения
На Hugging Face опубликована статья про Axion 1.0, «полностью открытую» базовую модель для ИИ-агентов (agent foundation model). Авторы подчёркивают, что сочетают сильные и разнообразные агентные способности с «удивительно простым» рецептом обучения.
Обучение состоит всего из трёх этапов: двух лёгких этапов контролируемой дообучки (SFT, supervised fine-tuning) и последующего обучения с подкреплением (RL). При этом нет отдельного промежуточного дообучения (mid-training), прямой оптимизации предпочтений (DPO) и дистилляции на собственных траекториях (on-policy distillation, OPD).
Первый этап SFT формирует самодостаточное рассуждение через «модельно-ориентированное» построение данных: авторы синтезируют сложные задачи и состязательно усиливают их, опираясь на успешные стратегии решения самой базовой модели. Второй этап переносит эти способности на рассуждение с использованием инструментов: для него построен масштабируемый конвейер разнообразных, автоматически проверяемых задач, основанных на реальных источниках данных и детерминированных вычислениях. Обучение с подкреплением затем усиливает рассуждение на длинных горизонтах и взаимодействие с внешними инструментами и средами.
По заявлению авторов, несмотря на компактный рецепт, Axion 1.0 показывает сильные результаты на широком наборе агентных бенчмарков и на нескольких из них конкурирует с ведущими коммерческими моделями (не на всех).
Отдельный акцент, открытость не только весов: выложен полный рецепт, включая построение, генерацию, фильтрацию и проверку данных, промпты и код обучения. Это позволяет воспроизвести и расширить весь процесс разработки. Вывод авторов: сильные агентные базовые модели могут быть одновременно открытыми и простыми, а это практичный и воспроизводимый путь к развитию открытого агентного интеллекта.
Ключевые факты
- Axion 1.0, открытая базовая модель для агентов; открыт не только вес, но и весь рецепт: данные, промпты, код обучения.
- Обучение в три этапа: два лёгких этапа SFT, затем обучение с подкреплением; без mid-training, DPO и OPD.
- Первый этап SFT, сложные синтетические задачи, усиленные на основе успешных стратегий самой базовой модели; второй, автоматически проверяемые задачи с инструментами на реальных данных.
- По заявлению авторов, модель конкурирует с ведущими коммерческими моделями на нескольких агентных бенчмарках.
- Названия бенчмарков, конкретные результаты и размер модели в тексте источника не приведены.
Почему это важно
Агентные модели, умеющие долго рассуждать и работать с инструментами, чаще всего закрыты. Axion 1.0 заявлена как попытка показать, что сильная агентная модель может быть и открытой, и простой в обучении: всего три этапа без ряда дополнительных техник. Ценность в том, что опубликован полный рецепт, а не только веса.
Кому это важно
Исследователям и командам, которые обучают собственные агентные модели и хотят воспроизвести или расширить чужой конвейер данных. Также тем, кто следит за открытыми альтернативами коммерческим агентным моделям.
Как это применить
Из описания следует, что можно взять опубликованные способы построения данных, генерации, фильтрации и проверки, промпты и код обучения и воспроизвести трёхэтапный процесс: SFT на сложных синтетических задачах, SFT на проверяемых задачах с инструментами, затем RL. Лицензия, ссылки для загрузки и требования к вычислениям в тексте источника не указаны.
Можно ли доверять
Источник, аннотация самой статьи, все утверждения о качестве принадлежат авторам. Названия бенчмарков, числовые результаты и сами коммерческие модели для сравнения не приведены, поэтому степень конкурентности проверить по этому тексту нельзя. Сказано лишь, что модель конкурентна «на нескольких» бенчмарках, не на всех.
Риски и подводные камни
Заявление об успехе без цифр требует проверки по полному тексту статьи и независимым замерам. Простота рецепта относится к числу этапов; сложность построения данных (синтез задач, состязательное усиление, проверяемые конвейеры) может оказаться немалой. Воспроизводимость на практике зависит от доступных ресурсов, которые в источнике не описаны.