ИИтог

Hugging Face подключил Baseten как провайдера инференса

инфраструктураРедакция ИИтогHugging Face🔥51Рейтинг ИИтог51Влияние45Новизна35Релевантность88Неожиданность25Участники50Достоверность88
Hugging Face подключил Baseten как провайдера инференса

Hugging Face объявил, что Baseten, платформа ИИ-инфраструктуры, которая предоставляет бессерверный инференс, обучение моделей и другие сервисы, стала поддерживаемым провайдером инференса (Inference Provider) на Hugging Face Hub. Baseten пополнил растущий список таких провайдеров и расширил возможности бессерверного инференса прямо на страницах моделей Hub, а также в клиентских SDK для JS и Python.

На старте интеграции Baseten включил поддержку диалоговых задач и генерации текста, открыв доступ к популярным открытым LLM: Kimi K3, DeepSeek V4 Flash последней версии, GLM-5.2 и ряду других. Поддержка остальных типов задач (например, синтез речи, который Baseten тоже умеет) появится позже, конкретная дата в источнике не названа.

Подключить Baseten можно тремя способами. Через веб-интерфейс Hugging Face, в настройках аккаунта пользователь задаёт собственные API-ключи провайдеров и порядок их приоритета для виджетов и фрагментов кода на страницах моделей. Через клиентские SDK, huggingface_hub версии не ниже 1.26.1 для Python и @huggingface/inference для JavaScript, авторизация по токену Hugging Face, запрос автоматически маршрутизируется к Baseten. И через агентские инструменты, интеграция уже встроена в большинство таких фреймворков, включая Pi, OpenCode, Hermes Agents и OpenClaw, что позволяет подключать модели на Baseten без дополнительного связующего кода.

Есть два режима оплаты. При прямом запросе с собственным ключом провайдера счёт выставляет сам Baseten. При запросе, маршрутизируемом через Hugging Face (без токена провайдера), пользователь платит стандартную ставку провайдера без наценки со стороны Hugging Face, счёт идёт с аккаунта Hugging Face; в будущем компания не исключает соглашений о разделении выручки с партнёрами-провайдерами. Отдельно подписчики плана Hugging Face PRO получают $2 инференс-кредитов в месяц, которые можно тратить у любых провайдеров, а сам план PRO даёт также ZeroGPU, Spaces Dev Mode и лимиты, увеличенные в 20 раз.

Ключевые факты

  • Baseten стал новым провайдером инференса на Hugging Face Hub, доступен на страницах моделей, в клиентских SDK и в агентских фреймворках.
  • На старте поддержаны диалоговые задачи и генерация текста; открыт доступ к моделям Kimi K3, DeepSeek V4 Flash и GLM-5.2 и другим.
  • Подключение через SDK требует huggingface_hub версии не ниже 1.26.1 (Python) или @huggingface/inference (JS).
  • Интеграция уже встроена в агентские фреймворки Pi, OpenCode, Hermes Agents и OpenClaw.
  • Два режима оплаты, напрямую через ключ Baseten или маршрутизированно через аккаунт Hugging Face без наценки; подписчики PRO получают $2 кредитов в месяц и лимиты в 20 раз выше.

Почему это важно

Каждый новый провайдер на Hugging Face Hub снижает трение для разработчиков: не нужно заводить отдельный аккаунт и интеграцию у каждого поставщика инференса, модель можно вызвать через единый интерфейс Hub, а Hugging Face сам маршрутизирует запрос к нужному провайдеру. Для Baseten это способ встроиться в экосистему, где уже находится значительная часть разработчиков открытых моделей.

Кому это важно

Разработчикам, которые используют открытые LLM (Kimi K3, DeepSeek V4 Flash, GLM-5.2 и другие) через Hugging Face Hub, его SDK для Python и JavaScript или через агентские фреймворки Pi, OpenCode, Hermes Agents и OpenClaw, теперь Baseten доступен как ещё один вариант инференса без дополнительной настройки.

Как это применить

Подключить провайдера можно тремя путями: через веб-интерфейс Hub, задав собственный API-ключ Baseten и порядок провайдеров в настройках аккаунта; через SDK, huggingface_hub не ниже версии 1.26.1 для Python или @huggingface/inference для JavaScript, с авторизацией по токену Hugging Face; либо просто через уже интегрированные агентские фреймворки. При прямом ключе счёт выставляет Baseten, при маршрутизации через Hugging Face, по стандартной ставке провайдера без наценки, а подписчики PRO дополнительно получают $2 инференс-кредитов в месяц.

Можно ли доверять

Материал, официальный анонс в блоге Hugging Face, написанный от лица компании (конкретное имя автора в тексте не указано), то есть это первоисточник о партнёрстве, а не пересказ третьей стороны. При этом в тексте нет даты публикации, не назван срок расширения на другие типы задач и не приведён полный список поддерживаемых моделей, он вынесен по ссылке.

Риски и подводные камни

Пока поддержаны только диалоговые задачи и генерация текста, остальные типы моделей Baseten (например, синтез речи) появятся на Hub позже, без указанной даты. Схема оплаты зависит от режима подключения: при собственном ключе биллинг идёт напрямую у Baseten, а не через единый аккаунт Hugging Face, что стоит учитывать при выборе способа интеграции.