Tether AI Research представила BotPsy: нейросеть на 0,8 млрд параметров для вызова функций на устройстве

Tether AI Research представила BotPsy, модель на 0,8 млрд параметров, рассчитанную на вызов функций и агентные сценарии и пригодную для запуска прямо на устройстве. Она построена на базе Qwen3.5-0.8B. Авторы описывают её как «персонального помощника», который с помощью инструментов выполняет простые задачи: веб-поиск и исследования, путешествия и быт, коммерция и финансы, бизнес-процессы и работа с клиентами, управление устройствами и автомобилем, файлы и документы, календарь, почта и сообщения. Из-за малого размера модель лучше всего подходит для задач низкой и средней сложности и, как признают авторы, всё ещё ошибается и не предназначена для ответственных сценариев.
Мотивация, по словам авторов, такова: облачные передовые модели дороги, их стоимость может неожиданно меняться, провайдер вправе изменить или закрыть доступ, а кастомизация, приватность и прозрачность ограничены. Не каждой задаче нужен уровень передовой модели, а небольшие специализированные агенты на конкретных задачах могут быть не хуже и заметно дешевле.
Обучение проходит в четыре последовательных этапа. Сначала полное дообучение с учителем (SFT) на диалогах с использованием инструментов: многоходовые траектории агентов из симулированных сред, одиночные, параллельные и многошаговые вызовы, а также случаи, когда инструмент вызывать не нужно. Затем многоучительская дистилляция по собственным ответам (MOPD): ученик генерирует ответы, а специализированный учитель оценивает каждый токен. Учителями стали три модели Qwen3.5-4B, предварительно обученные с подкреплением под вызов инструментов, общие рассуждения и следование инструкциям; этот этап в первую очередь возвращает знания и следование инструкциям, просевшие после SFT. Далее два раунда обучения с подкреплением (RL) по алгоритму DAPO только на наградах от правил и проверяющих программ. В первом упор на вызов инструментов с частичным зачётом за совпадение имён инструментов, имён и значений аргументов; во втором добавлены математика, код, вопросы на знания, инструкции, структурированный вывод и многошаговое использование инструментов в симулированной офисной среде. В этой смеси нет многоходовых диалогов, но многоходовые вызовы функций всё равно улучшились.
Результаты по данным авторов. Относительно базовой Qwen3.5-0.8B-Think: BFCL v4 вырос с 23,4 до 44,0, ACEBench, с 30,1 до 58,7, τ-bench, с 23,2 до 51,5 (среднее по подмножествам retail, telecom и banking). По шести агентным тестам (BFCL v4, ACEBench, τ-bench, ToolSandbox, Claw-Eval и BrowseComp-Plus) BotPsy опережает Qwen3.5-0.8B-Think, LFM2.5-1.2B-Think и MiniCPM5-1B-Think. Лучший результат среди всех проверенных моделей у неё на пяти тестах из шести, в том числе против Qwen3.5-2B-Think, которая в 2,5 раза крупнее: BFCL v4, 44,0 против 37,7, ACEBench, 58,7 против 55,4, τ-bench, 51,5 против 46,5, ToolSandbox, 64,6 против 41,2, BrowseComp-Plus, 4,5 против 2,8. Только на Claw-Eval впереди Qwen3.5-2B-Think (48,9 против 46,5).
В многоходовых сценариях на τ²-bench (телеком) BotPsy набирает 82,5 против 69,3 у Qwen3.5-2B-Think. На многоходовых задачах BFCL v4 результат вырос с 7,5 до 46,1 (у Qwen3.5-2B-Think, 23,8). В группах по приложениям она лидирует в «коммерции и сервисах» (58,3 против 47,4) и в управлении устройствами и системой (46,1 против 31,9). На тестах BFCL v4, где модель должна отказаться, если подходящего инструмента нет, у неё 86,1, максимум среди всех проверенных; на особых случаях ACEBench (неполный запрос, неверные параметры, невыполнимое инструментами), 51,3 против 13,7 у базовой модели.
Общие навыки не пострадали: IFEval вырос с 59,7 до 90,8, IFBench, с 22,0 до 55,9 (лучший результат среди всех проверенных), GPQA Diamond, с 33,2 до 38,1, MMLU-Pro, с 41,6 до 48,9. Но знания по-прежнему в основном растут с числом параметров: Qwen3.5-2B-Think даёт 59,9 и 65,5 на этих двух тестах. Поэтому BotPsy задумана как модель, которая обращается к инструментам за недостающими фактами, а не как модель знаний.
По безопасности: в автоматическом red-teaming по шести категориям вреда небезопасные ответы составляют 21% против 36% у базовой модели (LFM2.5-1.2B-Think, 35%, MiniCPM5-1B-Think, 47%). При атаках через инъекцию в запрос доля небезопасных ответов снизилась с 46% до 31%. Рассуждения стали короче: на вопросах, на которые верно отвечают все пять моделей, нужно примерно в 3 раза меньше токенов рассуждения, чем у базовой, на GPQA Diamond (3 690 против 11 563) и в 2,7 раза меньше на MMLU-Pro (1 912 против 5 105). Доля зацикливаний на IFBench упала с 22,9% до 1,4%, а прогонов, упёршихся в лимит 32 тыс. токенов, с 28,3% до 0,2%. Авторы ожидают, что более короткое рассуждение снизит задержку на устройстве.
Выпуск: BotPsy, по заявлению авторов, будет опубликована с открытыми весами под лицензией Apache 2.0 для исследовательских и образовательных целей, в трёх точностях (bf16, Q8, Q4), как safetensors на Hugging Face и как GGUF-файлы для QVAC SDK и llama.cpp. В разделе о дальнейших планах Tether AI Research (юридически, Tether Data, S.A. de C.V.) называет без сроков: децентрализованный P2P-поиск Hypersearch, локальное дообучение QVAC Fabric под пользователя, делегирование тяжёлых вычислений со смартфона на домашний ПК или доверенные P2P-узлы и связь агентов между собой.
Ключевые факты
- BotPsy, модель на 0,8 млрд параметров на базе Qwen3.5-0.8B для вызова функций и агентных задач на устройстве; обучена в четыре этапа: SFT, дистилляция MOPD с тремя учителями Qwen3.5-4B и два раунда RL.
- По собственным замерам авторов, BotPsy лучше всех проверенных моделей до 1,2 млрд параметров на шести агентных тестах и лидирует на пяти из шести даже среди моделей, включая Qwen3.5-2B-Think (в 2,5 раза крупнее); на Claw-Eval впереди Qwen3.5-2B-Think (48,9 против 46,5).
- Относительно базовой модели: BFCL v4 вырос с 23,4 до 44,0, ACEBench, с 30,1 до 58,7, τ-bench, с 23,2 до 51,5, IFEval, с 59,7 до 90,8.
- Небезопасные ответы в автоматическом red-teaming, 21% против 36% у базовой модели; при инъекциях в запрос, 31% против 46%.
- Знания остаются слабее, чем у более крупной Qwen3.5-2B-Think (GPQA Diamond 38,1 против 59,9), а сама модель, по словам авторов, не предназначена для ответственных сценариев; открытые веса под Apache 2.0 заявлены в будущем времени.
Почему это важно
Компактные агентные модели, которые работают локально, альтернатива дорогим облачным нейросетям, чья цена и доступ зависят от провайдера. BotPsy интересна тем, что сильнее всего прокачана именно работа с инструментами: на ряде тестов модель на 0,8 млрд параметров, по данным авторов, обходит вдвое с лишним более крупного соседа по семейству Qwen3.5. Заметен и другой результат: короткие рассуждения и резкое падение зацикливаний, что важно для локального запуска.
Кому это важно
Разработчикам локальных ассистентов и агентов на телефонах, ноутбуках и автомобилях, командам, которым нужна приватность данных и независимость от облачного провайдера, а также исследователям малых моделей, дистилляции и обучения с подкреплением для вызова инструментов.
Как это применить
Авторы указывают, что модель подойдёт для простых и средних задач вроде поиска, календаря, почты, файлов и управления устройствами. Предполагается подключать её через QVAC SDK или llama.cpp в форматах GGUF (bf16, Q8, Q4) или использовать safetensors с Hugging Face. Рассчитывать на неё как на источник знаний не стоит: за фактами она должна обращаться к инструментам. Лицензия заявлена как Apache 2.0 для исследовательских и образовательных целей, и выпуск весов описан в будущем времени, поэтому условия использования стоит проверить на странице модели.
Можно ли доверять
Первоисточник, блог самих авторов, и все результаты получены ими же; независимой проверки в тексте не упоминается. Сравнения выбраны авторами: в таблицах участвуют пять моделей, названы BotPsy, Qwen3.5-0.8B-Think, Qwen3.5-2B-Think, LFM2.5-1.2B-Think и MiniCPM5-1B-Think. Формулировка «SOTA для своего размера» относится к проверенным ими моделям до 1,2 млрд параметров. Честно оговорено и то, где модель слабее: Claw-Eval и общие знания.
Риски и подводные камни
Сама модель небольшая: авторы пишут, что она всё ещё ошибается и не предназначена для ответственных сценариев. Небезопасные ответы остаются на уровне 21%, а при инъекциях в запрос, 31%, что важно для агентов, читающих недоверенные ответы инструментов. Данных о задержке, памяти и скорости на реальных устройствах в тексте нет: снижение задержки названо ожидаемым. Описанные планы вокруг Hypersearch, QVAC Fabric и связи агентов, намерения без сроков.
«BotPsy, это «персональный помощник», который использует инструменты для выполнения множества простых задач пользователя.»
— Tether AI Research, блог на Hugging Face