Google выпустила Gemini Decisions API: быстрые решения за 150-250 мс

Google выпустила Gemini Decisions API: быстрые решения за 150-250 мс

Google объявила о Gemini Decisions API, новой конечной точке (endpoint) в Gemini API в Google AI Studio для быстрых решений из закрытого набора вариантов. Работает она на новой модели Gemini Decision 1 (gemini-decision-1). API рассчитан на ограниченный выбор: выбор инструмента, проверку на соответствие правилам, маршрутизацию между моделями, оценку релевантности контекста.

Главное отличие: модель не генерирует текст ответа токен за токеном, а оценивает предложенные варианты за один прямой проход и возвращает вероятности и оценки уверенности. По заявлению Google, сквозная задержка составляет 150-250 мс, из них медианное время вычислений модели, 50-100 мс. Эти цифры относятся к мультимодальным входам и контекстам до 16 тыс. токенов; задержка почти не растёт при увеличении числа вопросов в запросе от 1 до 100.

На вход можно подать один мультимодальный объект (текст, изображения, аудио, видео, PDF) размером до 256 тыс. токенов и до 1000 независимых вопросов к нему. Модальности комбинируются: например, запись звонка с метаданными аккаунта или скан PDF-заявления с фотографиями повреждений. Для изображений и видео можно настраивать разрешение, чтобы управлять детализацией и стоимостью в токенах. Формат поля input, тот же блок Content, что и в Interactions API.

Поддерживаются три типа вопросов, их можно смешивать в одном запросе. noul (да/нет) оценивает вероятность выполнения условия, с необязательными описаниями критериев для «истинно» и «ложно». choice (выбор) выбирает из 2-255 вариантов и возвращает победителя и нормированные вероятности по каждому кандидату. score (упорядоченная шкала) оценивает вход по рубрике, начинающейся с 0, и возвращает непрерывную взвешенную оценку и вероятности по уровням. К каждому ответу прилагается оценка уверенности от 0 до 1, чтобы код мог отправлять неоднозначные случаи в запасной вариант или живому проверяющему. В примере из статьи по фото кухонной стойки и текстовой заметке проверяют, есть ли разлитая жидкость, какое действие уместно (протереть, вызвать уборщика, всё готово) и насколько серьёзен беспорядок.

По результатам бенчмарков по маршрутизации агентов, рассуждению, ранжированию и мультимодальному пониманию Gemini Decision 1, как утверждает Google, лидирует по набору и имеет наименьшую ошибку калибровки. Сами тесты и значения в публикации не приведены. Ещё одно заявление: с учётом того, что выходные токены не тарифицируются, Gemini Decision 1 с Decisions API почти в 5 раз дешевле, чем Gemini 3.5 Flash-Lite с Interactions API, на общем наборе бенчмарков.

Цена, $0,10 за 1 млн входных токенов и $0 за выходные; для прототипирования в Google AI Studio есть бесплатный уровень API. Общий вход оплачивается один раз за запрос независимо от числа вопросов, каждый вопрос добавляет лишь токены своей инструкции и критериев. Нет платы за выходные токены, переменных счетов за токены рассуждений и отдельной оплаты расшифровки аудио и распознавания текста (OCR).

Google приводит примеры внутреннего применения как «управляющего слоя» с малой задержкой: в Gemini Notebook API работает маршрутизатором в реальном времени, определяя намерение запроса за миллисекунды и направляя его на подходящий уровень модели и глубину рассуждений; обычные запросы обслуживаются с задержкой до 40% ниже, а сильные рассуждающие модели остаются для сложных задач. В новом эксперименте Stitch Rapid интерфейсные каркасы потока продукта с возможностью интерактивной проверки создаются за секунды, правки голосом или касанием применяются почти мгновенно. CC из Google Labs выбирает эмодзи-реакцию из палитры более чем из 200 вариантов за доли секунды. Google Search использует API как защитный слой для инструментов MCP, чтобы обнаруживать враждебное поведение и контент.

Начать можно с ключа API в Google AI Studio, демо-приложений Doorstep Parcels, Speed Sketch и Find the Zoo Keeper и руководств для Python, JavaScript и REST. Интеграции с OpenRouter, LangChain, Vercel, LiteLLM, Pydantic AI, Pipecat, LiveKit и OpenCode разворачиваются вместе с SDK google-genai; поддержка в Gemini в Google Cloud обещана «скоро».

Ключевые факты

  • Gemini Decisions API на модели Gemini Decision 1 (gemini-decision-1) не генерирует текст, а оценивает заданные варианты за один прямой проход и возвращает вероятности и оценку уверенности от 0 до 1.
  • Заявленная сквозная задержка, 150-250 мс (медианное время вычислений 50-100 мс для контекстов до 16 тыс. токенов); вход, до 256 тыс. токенов и до 1000 независимых вопросов за запрос.
  • Три типа вопросов: noul (да/нет), choice (выбор из 2-255 вариантов) и score (упорядоченная шкала); их можно смешивать в одном запросе.
  • Цена, $0,10 за 1 млн входных токенов, выходные не тарифицируются; общий вход оплачивается один раз за запрос. Для прототипирования есть бесплатный уровень в Google AI Studio.
  • Google заявляет, что решение почти в 5 раз дешевле Gemini 3.5 Flash-Lite с Interactions API на общем наборе бенчмарков; сами тесты и значения не раскрыты.

Почему это важно

Google выделила в отдельный продукт задачу, которую обычно решают через генеративную модель: выбрать один вариант из заранее известных. Вместо текста с разбором ответа разработчик получает вероятности и оценки уверенности за 150-250 мс и платит только за входные токены. Это ориентировано на «управляющие» шаги агентных систем: выбор инструмента, маршрутизацию между моделями, проверку правил, оценку контекста. Для таких шагов задержка и цена часто важнее красноречия модели.

Кому это важно

Разработчикам агентов и приложений на Gemini API, которым нужен быстрый и дешёвый классификатор или маршрутизатор. Командам, которые сейчас обучают собственные классификаторы или вызывают для простого выбора полноценную генеративную модель. Тем, кто обрабатывает мультимодальные входы (звонки, сканы документов, фото) и хочет получать на выходе структурированные оценки. Также тем, кто строит на Gemini системы с эскалацией неуверенных случаев живому проверяющему.

Как это применить

Определите набор вариантов и критериев, передайте общий мультимодальный вход и до 1000 вопросов в одном запросе через client.decisions.create с моделью gemini-decision-1. По оценке уверенности (0-1) отправляйте неоднозначные случаи на запасной путь или человеку. Цена, $0,10 за 1 млн входных токенов; общий вход тарифицируется один раз на запрос, так что сгруппировать вопросы выгоднее, чем делать отдельные вызовы. Прототипировать можно на бесплатном уровне в Google AI Studio; пределы этого уровня в публикации не указаны. Поддержка есть в SDK google-genai, интеграции с OpenRouter, LangChain, Vercel, LiteLLM, Pydantic AI, Pipecat, LiveKit и OpenCode разворачиваются; в Gemini в Google Cloud она ожидается «скоро».

Можно ли доверять

Это первоисточник, анонс Google на blog.google, поэтому все показатели, собственные заявления компании. «Лидирует по набору» и «наименьшая ошибка калибровки» не подкреплены названиями бенчмарков и значениями. Сравнение «почти в 5 раз дешевле» сделано только с Gemini 3.5 Flash-Lite с Interactions API на общем наборе бенчмарков, и как оно считалось, не объясняется. Цифры задержки привязаны к контекстам до 16 тыс. токенов, а максимальный вход, 256 тыс.; задержка для больших входов не приведена. Примеры внедрения, только продукты самой Google (Gemini Notebook, Stitch, CC, Search); сторонних клиентов в публикации нет. Замечание про «до 40% меньшей задержки» относится к Gemini Notebook, и база для сравнения не указана.

Риски и подводные камни

Подход годится только для закрытого набора вариантов: открытые генеративные задачи он не решает. Качество зависит от того, насколько хорошо вы сформулировали инструкции и критерии. Оценки уверенности полезны, только если их проверить на собственных данных: Google говорит о низкой ошибке калибровки, но подтверждающих цифр не показывает. Сроки задержки заявлены для контекстов до 16 тыс. токенов, на больших входах результат может отличаться, и это стоит проверить. Лимиты бесплатного уровня не раскрыты, а статус релиза (предварительная версия или общая доступность) в тексте не указан. Пример в статье использует версию API v1beta.