ИИтог

Представлен MMVistaReason: открытый рецепт обучения мультимодальных моделей рассуждения

исследованияРедакция ИИтогHugging Face🔥52Рейтинг ИИтог52Влияние42Новизна55Релевантность100Неожиданность25Участники12Достоверность75
Представлен MMVistaReason: открытый рецепт обучения мультимодальных моделей рассуждения

Авторы препринта представили MMVistaReason (MVR), рецепт дообучения открытых мультимодальных моделей рассуждения на открытых данных. Исходная проблема, по их описанию: крупные наборы данных для обучения рассуждениям уже есть, но надёжное дообучение остаётся трудным из-за неравномерного качества данных, неэффективного построения обучающих примеров, перекоса по сложности и межобластных помех.

Рецепт состоит из трёх частей. Первая, более широкий охват навыков: две взаимодополняющие группы рассуждений, «аналитические» и «реальные», с упором на структурированное рассуждение в сравнении с визуальным восприятием и пространственной привязкой. Вторая, эффективное построение данных для SFT (обучения на примерах) и RL (обучения с подкреплением): разнородные открытые данные приводятся к единому виду через поэтапную очистку и разметку. Для SFT-набора MVR-SFT-528K сочетаются каскадная дистилляция из моделей-учителей с учётом сложности и отбор траекторий рассуждения по правдоподобию ответа. Для RL-набора MVR-RL-63K применяется фильтрация «по границе» сложности, своя для каждого масштаба модели. Третья, обучение по схеме «сначала специализация, затем объединение»: сначала обучаются дополняющие друг друга RL-эксперты, затем их навыки сводятся в одну модель через дистилляцию от нескольких учителей по собственным траекториям ученика (multi-teacher on-policy distillation, MOPD).

Анализ авторов выявляет зависимость от ёмкости модели: меньшие «ученики» сильнее выигрывают от отобранных обучающих примеров, а более крупные устойчивы к разбросу качества траекторий и к смешению областей. Смешанное по областям RL даёт отрицательный перенос на уровне отдельных бенчмарков, тогда как MOPD обеспечивает стабильное объединение навыков; при этом предпочтительное направление KL-дивергенции меняется с масштабом модели.

Результаты: на 15 мультимодальных бенчмарках MVR-4B набирает в среднем 72,8 и, как заявляют авторы, опережает Qwen3.5-9B (Instruct) и MMFineReason-8B, используя примерно на 70% меньше обучающих примеров, чем MMFineReason. Масштабирование до 9B поднимает среднее до 74,4 и превосходит Qwen3.5-35B-A3B (Instruct). Вывод авторов: системное построение открытых данных и обучение с учётом ёмкости модели, практичный и масштабируемый путь к надёжному мультимодальному рассуждению.

Ключевые факты

  • MMVistaReason (MVR), открытый рецепт дообучения мультимодальных моделей рассуждения: данные для SFT (MVR-SFT-528K), данные для RL (MVR-RL-63K) и схема обучения «специализация, затем объединение».
  • Объединение навыков RL-экспертов идёт через MOPD, дистилляцию от нескольких учителей по собственным траекториям ученика; смешанное по областям RL, по данным авторов, даёт отрицательный перенос на отдельных бенчмарках.
  • MVR-4B набирает в среднем 72,8 на 15 бенчмарках и, по заявлению авторов, опережает Qwen3.5-9B (Instruct) и MMFineReason-8B при примерно 70% меньшем числе обучающих примеров, чем у MMFineReason.
  • Модель масштаба 9B поднимает среднее до 74,4 и превосходит Qwen3.5-35B-A3B (Instruct).
  • Меньшие модели сильнее выигрывают от отобранных примеров, крупные устойчивее к вариациям траекторий и смешению областей.

Почему это важно

Работа описывает воспроизводимый путь дообучения мультимодальных моделей рассуждения именно на открытых данных, без закрытых наборов. Заявленный результат, небольшая модель 4B, которая по среднему на 15 бенчмарках опережает более крупные Qwen3.5-9B (Instruct) и MMFineReason-8B, а версия масштаба 9B превосходит Qwen3.5-35B-A3B (Instruct). Если это подтвердится, выигрыш даёт качество и структура данных, а не только размер модели.

Кому это важно

Исследователям и командам, которые дообучают открытые мультимодальные модели и строят для этого наборы данных на SFT и RL. Особенно полезны наблюдения о зависимости от ёмкости модели и о негативном переносе при смешанном по областям RL, а также идея объединять навыки отдельных RL-экспертов через MOPD.

Как это применить

Из описания можно взять приёмы: приводить разнородные открытые данные к единому виду через поэтапную очистку и разметку; отбирать траектории рассуждения по правдоподобию ответа; фильтровать RL-данные под масштаб модели; обучать RL-экспертов по областям и затем сводить их навыки через MOPD вместо смешанного RL. Статус публикации весов, данных и кода в тексте источника не указан, поэтому проверяйте его на странице работы.

Можно ли доверять

Это препринт, и все сравнения, собственные заявления авторов. В тексте источника нет списка 15 бенчмарков, результатов по каждому из них и средних баллов базовых моделей, поэтому величину отрыва от Qwen3.5 и MMFineReason по одному среднему значению оценить нельзя. Независимой проверки в источнике нет. Для 9B-модели в источнике указан только масштаб, отдельного имени нет.

Риски и подводные камни

Среднее по 15 бенчмаркам может скрывать просадки на отдельных задачах; сами авторы отмечают отрицательный перенос в смешанном RL на уровне бенчмарков. Выводы о ёмкости модели получены на ограниченном наборе масштабов, а предпочтительное направление KL-дивергенции, по словам авторов, зависит от масштаба, готового универсального рецепта настроек в источнике нет. Затраты на вычисления и время обучения не приведены, так что стоимость повторения оценить трудно.