ИИтог

Liquid AI выпустила LFM2.5-24B-A2B: открытую модель для агентов на устройстве

моделиРедакция ИИтогHugging Face🔥61Рейтинг ИИтог61Влияние55Новизна55Релевантность100Неожиданность35Участники40Достоверность80
Liquid AI выпустила LFM2.5-24B-A2B: открытую модель для агентов на устройстве

Liquid AI выпустила LFM2.5-24B-A2B и её базовую версию LFM2.5-24B-A2B-Base. Веса обеих моделей открыты и доступны на Hugging Face. Это модель типа mixture-of-experts (смесь экспертов) с 24 млрд параметров в названии и всего 2 млрд активных параметров на токен. В отличие от предшественницы LFM2-24B-A2B, она работает только в режиме рассуждения: перед финальным ответом всегда строит явную цепочку мыслей.

Архитектура осталась прежней: 40 слоёв, 64 эксперта в каждом MoE-блоке с маршрутизацией top-4 и гибрид gated short convolutions (управляемых коротких свёрток) и GQA. Изменилось другое: контекстное окно выросло с 32K до 131K токенов, а расширение токенизатора на месте удвоило словарь с 65K до 128K токенов ради лучшей токенизации нелатинских текстов. Предобучение увеличили с ~17T до ~33T токенов. Затем добавили среднее обучение: 2T токенов при контексте 32K (с упором на рассуждения, математику, код, следование инструкциям и многоязычный текст) и 300B токенов при контексте 131K (в основном длинные контексты). Вызовы инструментов и многоходовые траектории присутствуют в обеих фазах.

После базового обучения модель превращают в агента за пять этапов: контролируемая тонкая настройка (SFT), специализация учителей, многодоменная on-policy дистилляция (MOPD) на неагентных задачах, вторая стадия MOPD на агентных задачах и агентное обучение с подкреплением внутри обвязок для агентов, OpenClaw, Hermes Agent, Pi и OpenCode.

Компания сравнила модель с Qwen3.6-35B-A3B, Gemma-4-26B-A4B-it и Nemotron-3.5-Lightning на 16 бенчмарках: вызов инструментов и агентные сценарии, знания, следование инструкциям, математика, код. Все модели запускались через vLLM с рекомендованными для каждого бенчмарка параметрами генерации. По заявлению Liquid AI, это самая маленькая модель в группе, но она сопоставима с MoE, у которых примерно на 50% больше общих и активных параметров. На LiveClaw она набрала 48,09 против 38,19 у Qwen3.6-35B-A3B. Из восьми бенчмарков по инструментам и агентам она лидирует или не уступает на пяти (AutomationBench, BFCLv4, ToolSandbox, LiveClaw, τ³-Bench Banking), причём на AutomationBench результат больше чем втрое выше, чем у следующей по результату модели. Кроме того, она лидирует на всех трёх бенчмарках по следованию инструкциям.

Слабые места компания признаёт: более крупные модели сохраняют преимущество на бенчмарках знаний (GPQA Diamond, HLE, AA-Omniscience) и кода (SWE-Bench Verified в варианте OpenCode, SciCode). Для задач, где нужны знания, Liquid AI советует сочетать модель с поиском по базе или по вебу.

По скорости: на локальном железе модель, по словам компании, самая быстрая среди сравниваемых MoE и использует меньше всего памяти, 184 токена/с на Apple M5 Max и 114 токенов/с на Ryzen AI Max+ 395, что до 1,7 раза быстрее следующей по скорости модели. На одном GPU NVIDIA B300 при высокой конкурентности она выдаёт свыше 21 тыс. выходных токенов в секунду и названа самой быстрой в своём классе размеров. С первого дня поддерживаются llama.cpp, MLX, vLLM, SGLang и ONNX. В блоге приведены пример запуска через transformers (версии не ниже 5.0.0) и настройка Hermes Agent с любым OpenAI-совместимым локальным бэкендом.

Ключевые факты

  • LFM2.5-24B-A2B и версия Base опубликованы с открытыми весами на Hugging Face; модель только рассуждающая, 2 млрд активных параметров на токен, 40 слоёв, 64 эксперта, top-4.
  • Контекст вырос с 32K до 131K токенов, словарь удвоен (с 65K до 128K), предобучение расширено с ~17T до ~33T токенов.
  • По данным Liquid AI, на LiveClaw модель набрала 48,09 против 38,19 у Qwen3.6-35B-A3B, у которой примерно на 50% больше общих и активных параметров; из восьми агентных бенчмарков лидирует или не уступает на пяти.
  • Скорость на устройствах: 184 токена/с на Apple M5 Max и 114 токенов/с на Ryzen AI Max+ 395, до 1,7 раза быстрее следующей модели; на одной B300, свыше 21 тыс. выходных токенов/с.
  • Крупные модели по-прежнему сильнее в знаниях (GPQA Diamond, HLE, AA-Omniscience) и коде (SWE-Bench Verified, SciCode); компания советует добавлять поиск.

Почему это важно

Открытая модель с 2 млрд активных параметров, которая, по заявлению разработчика, на агентных задачах не уступает моделям примерно на 50% крупнее, показывает, что агентов с рассуждением можно запускать на ноутбуке, а не только в облаке. Выход на 131K контекста и режим рассуждения, которого не было у предшественницы, делают линейку практичнее для агентных сценариев. Все сравнения опираются на данные самой Liquid AI.

Кому это важно

Разработчикам агентов и приложений с вызовом инструментов, которым нужна локальная модель: приватность и скорость на своём железе. Командам, работающим с llama.cpp, MLX, vLLM, SGLang или ONNX: поддержка заявлена с первого дня. Тем, кто дообучает модели: доступна версия Base и туториалы по тонкой настройке.

Как это применить

Веса обеих версий лежат на Hugging Face. Для быстрого старта нужен transformers версии не ниже 5.0.0: модель загружается через AutoModelForCausalLM с bfloat16. Для работы в агентной обвязке модель поднимают за любым OpenAI-совместимым бэкендом и направляют на него агент, например Hermes Agent; порты: 8080 для llama.cpp и MLX, 8000 для vLLM, 30000 для SGLang, 1234 для LM Studio. Конфигурации OpenClaw и Pi, в карточке модели. Для задач, требующих знаний, компания советует добавить поиск или веб-поиск.

Можно ли доверять

Это блог самого разработчика, и все бенчмарки запускала Liquid AI; независимой проверки в тексте не упоминается. В тексте приведены лишь два числа из таблицы результатов (LiveClaw и кратность на AutomationBench), полная таблица, а также результаты Gemma-4-26B-A4B-it и Nemotron-3.5-Lightning в тексте не показаны. Не указано, какая модель считается «следующей по скорости» в сравнении 1,7x, и какая точность или квантизация использовалась при замерах. Плюс: компания сама признаёт отставание от крупных моделей в знаниях и коде.

Риски и подводные камни

Лидерство заявлено на пяти из восьми агентных бенчмарков, на остальных трёх модель не лидирует и не равна конкурентам; каких именно, в тексте не сказано. В знаниях и коде крупные модели впереди, так что на сложных задачах программирования или фактологии без поиска рассчитывать на неё рано. Лицензия открытых весов в тексте не названа, её стоит проверить в карточке модели перед коммерческим использованием. Цифры скорости получены на топовом железе (M5 Max, Ryzen AI Max+ 395, B300), на более скромных устройствах результат будет иным.