TypeSafe выпустила Jev 1.14.0: изображения, тип box и длинный контекст под флагами

TypeSafe объявила о выходе Jev 1.14.0 (релиз в рамках jev-preview) и одновременно открыла три экспериментальные функции для тех, кого называет «мечтателями»: поддержку изображений, новый тип box и более длинный контекст. Они включаются отдельными флагами «danger zone» (зона опасности) в заголовках API.

Философия, по словам компании, такая: между надёжностью и творчеством идёт спор. Для тех, кто строит продакшен, модели должны проходить внутреннюю планку качества и быть проверены до предела возможностей команды. Но команда не может знать, что вызовет восторг у тех, кто делает фантастические проекты, и не хочет навязывать им свои требования к экстремальной надёжности. Поэтому такие функции выносятся под флаги. По заверениям TypeSafe, они останутся и для будущих моделей, продолжат улучшаться, но пока в них «слишком много неровности» (jaggedness), чтобы ручаться за них в продакшене. Компания называет их продолжением более чем двух лет работы в «стелс-режиме».

Изображения. Мультимодальность включают и для будущих моделей Jev, и для текущей: по словам TypeSafe, jev-1.13.0 «всё это время была мультимодальной». Изображения подставляются через find-and-replace (поиск и замену) в assets и могут стоять везде, где JSON-интерфейс принимает данные: в состоянии (state), инструкциях или критериях. Включается заголовком TypeSafe-Danger-Zone-Images: true. Компания предупреждает: все модели, включая Jev, на мультимодальных задачах работают хуже, чем на чистом тексте; помогает разбивать вопросы на простейшие составляющие.

Тип box. Новый тип возвращает один ограничивающий прямоугольник (bounding box), «ошибок типов быть не может». Это первый тип, не предназначенный только для умных условий if; компания называет его предварительным взглядом на то, что модели System One смогут помимо простых решений. Включён только для jev-1.14.0.

Длинный контекст. Jev, по словам TypeSafe, поддерживает контекст значительно длиннее того, что включён в продакшене; лимит ввели намеренно, поскольку все модели хуже работают на длинных контекстах. Теперь ограничение можно снять заголовком TypeSafe-Danger-Zone-Long-Context: true, хотя компания настоятельно рекомендует контекст ограничивать.

Участие в улучшении. Добавлена опция, позволяющая помочь найти «неровности» модели своими запросами. TypeSafe заявляет, что по-прежнему не обучает модели на запросах пользователей, но так ей проще находить проблемы и разбирать случаи клиентов.

jev-1.14.0. Это релиз в jev-preview с небольшими улучшениями «во всём»; наибольший прирост ожидается в многоязычной поддержке. Алиас jev-latest переключится на jev-1.14.0 через неделю, jev-1.13.0 останется доступной «ещё какое-то время». Компания намерена предупреждать об устаревании за 60 дней для jev-1.13.0 и за 30 дней для jev-1.14.0 и обещает заранее опубликовать политику устаревания.

Измерение интеллекта. TypeSafe, по её словам, не любит публичные бенчмарки и решила поделиться внутренней оценкой того, что считает важным для разработчиков. Оговорки: оценка, лучшая догадка и будет меняться, ей не стоит верить полностью, а лучше проверять на собственных задачах; в сравнение включены только модели с открытыми весами, потому что компания бережёт валидационную выборку и опасается политик данных у провайдеров моделей; результат, вероятно, смещён в пользу её собственных моделей.

Что дальше. Компания работает над «ошеломляющими» вещами, но ожидает, что большинство релизов будут «красиво скучными»: небольшие улучшения, стабильность и функции для реального развёртывания.

Ключевые факты

• TypeSafe выпустила Jev 1.14.0 в рамках jev-preview: небольшие улучшения, наибольший прирост ожидается в многоязычной поддержке.
• Три экспериментальные функции включаются заголовками «danger zone»: изображения (TypeSafe-Danger-Zone-Images: true), новый тип box (только для jev-1.14.0) и длинный контекст (TypeSafe-Danger-Zone-Long-Context: true).
• Компания прямо не ручается за эти функции для продакшена и предупреждает, что мультимодальные задачи модели решают хуже, чем текстовые.
• jev-latest переключится на jev-1.14.0 через неделю; предупреждение об устаревании обещано за 60 дней для jev-1.13.0 и за 30 дней для jev-1.14.0.
• Внутреннее измерение «интеллекта» сравнивает только модели с открытыми весами и, по признанию компании, вероятно смещено в пользу её моделей.

Почему это важно

Релиз показывает необычный подход к выпуску функций: вместо того чтобы держать сырые возможности внутри, TypeSafe выносит их под явные флаги и открыто говорит, что для продакшена они не готовы. Среди них, мультимодальность, которая, по словам компании, уже была в текущей jev-1.13.0, и первый тип box, выходящий за рамки простых решений. Кроме того, компания заранее называет сроки предупреждения об устаревании версий, что для разработчиков на API существенно.

Кому это важно

Разработчикам, которые уже используют API Jev и следят за переключением jev-latest; тем, кто хочет попробовать изображения, ограничивающие прямоугольники или более длинный контекст в прототипах; командам, которым важны сроки устаревания версий моделей.

Как это применить

Для изображений добавьте заголовок TypeSafe-Danger-Zone-Images: true и подставляйте изображения туда, где JSON-интерфейс это поддерживает (состояние, инструкции, критерии); документация: docs.typesafe.ai/go/images. Тип box описан на docs.typesafe.ai/go/box и доступен только для jev-1.14.0. Для длинного контекста используйте заголовок TypeSafe-Danger-Zone-Long-Context: true; подробности, docs.typesafe.ai/models#context-length. Компания советует разбивать мультимодальные вопросы на простейшие части и проверять результат на собственных задачах, а не полагаться на её внутреннюю оценку.

Можно ли доверять

Источник, собственный блог TypeSafe, то есть заявления самой компании без внешней проверки. В тексте нет конкретных цифр внутреннего измерения, нет данных о размере контекста, а какие именно модели с открытыми весами сравнивались, не сказано. Компания сама признаёт, что оценка, вероятно, смещена в пользу её моделей, и призывает не верить ей полностью.

Риски и подводные камни

Экспериментальные функции компания не рекомендует для продакшена из-за «неровности» качества. Мультимодальные задачи решаются хуже текстовых, а на длинных контекстах все модели, по словам TypeSafe, менее надёжны. jev-latest сместится на jev-1.14.0 через неделю, поэтому тем, кто использует этот алиас, стоит заранее проверить поведение; тип box работает только на jev-1.14.0. Опция помощи с запросами упрощает компании поиск проблем и разбор случаев пользователей, хотя обучать модели на запросах она не будет. Дата устаревания версий не названа, политика будет опубликована позже.

«Мы всё же не ваши родители, поэтому, хотя мы настоятельно рекомендуем ограничивать длину контекста, вам больше не обязательно это делать.»

— TypeSafe, блог компании