IBM выпустила Granite Switch 4.1.1: обновлены модель распознавания речи и адаптер Decision
IBM выпустила Granite Switch 4.1.1, патч-релиз модульной архитектуры Switch, вышедший чуть более чем через неделю после Granite Switch 4.1. Архитектура Switch позволяет настроить языковую модель с помощью специализированных адаптеров, эффективно работающих с кэшем, и добавлять новые компетенции на одной конечной точке (endpoint). Номер версии, как пишут авторы, означает то же, что и в программном обеспечении: полная обратная совместимость с 4.1, никакой миграции, небольшие улучшения «под капотом».
В обновление вошли два изменения. Первое, обновлённая модель Granite Speech для автоматического распознавания речи (ASR): она переводит речь в текст на 10 языках со встроенной расстановкой знаков препинания и заглавных букв, поэтому расшифровки можно сразу передавать следующим моделям без отдельного прохода на форматирование. Второе, обновлённый адаптер Decision в наборе granitelib-core, у которого, по словам авторов, улучшилась общая производительность на тестовом наборе Jev Decision Index.
Главный акцент авторы делают не на самих функциях, а на скорости и эффективности выпуска. Кроме обучения новой ASR-модели и адаптера Decision, ничего не пересчитывалось: базовая модель осталась нетронутой. Нужно лишь собрать актуальные адаптеры и развернуть их.
IBM считает, что этот подход годится не только для патчей к собственным моделям. Компания готовит обучающие материалы и Adapter SDK, чтобы разработчики и сторонние поставщики могли создавать собственные адаптеры: выпускать версии, проверять функции и поставлять обновления так, как это делают с программным обеспечением. Подробности обещаны позже. Пока же предлагается протестировать новые модели и посмотреть демо Speech-to-Decisions, в котором работают новые многоязычные возможности и расстановка пунктуации.
Ключевые факты
- Granite Switch 4.1.1, патч-релиз, вышедший чуть более чем через неделю после 4.1; полностью обратно совместим, миграция не нужна.
- Обновлена модель Granite Speech ASR: распознавание речи на 10 языках со встроенной пунктуацией и заглавными буквами.
- Обновлён адаптер Decision в granitelib-core: по заявлению авторов, общая производительность на тестовом наборе Jev Decision Index выросла (цифры не приведены).
- Базовая модель не менялась: заново обучали только ASR-модель и адаптер Decision.
- IBM работает над обучающими материалами и Adapter SDK, чтобы разработчики и сторонние поставщики могли делать свои адаптеры.
Почему это важно
Релиз показывает на практике идею, которую IBM заложила в архитектуру Switch: языковую модель можно обновлять по частям, как программу. Вместо выпуска новой версии всей модели переобучены только две составляющие, модель распознавания речи и адаптер Decision, а базовая модель осталась прежней. Сами авторы называют заметным именно скорость и эффективность, с которыми команды смогли выпустить обновление.
Кому это важно
Прежде всего тем, кто уже использует Granite Switch 4.1 и хочет получить улучшения без миграции. Также интересно разработчикам, которым нужна многоязычная расшифровка речи сразу с пунктуацией и заглавными буквами, и командам, следящим за модульным подходом к языковым моделям. Сторонним поставщикам IBM обещает Adapter SDK для создания собственных адаптеров, но он пока в разработке.
Как это применить
Согласно описанию, достаточно собрать нужные последние адаптеры и развернуть их: версия 4.1.1 полностью совместима с 4.1, миграция не требуется. Новые многоязычные возможности и расстановку пунктуации можно посмотреть в демо Speech-to-Decisions. Размеры моделей, лицензия и ссылки на загрузку в тексте записи не указаны.
Можно ли доверять
Источник, собственный блог команды Granite, опубликованный на Hugging Face, то есть заявления исходят от самих разработчиков. Улучшение адаптера Decision описано только словами, без числовых результатов на Jev Decision Index; список 10 языков и показатели точности распознавания речи не приведены, поэтому оценить масштаб улучшений по этому тексту нельзя.
Риски и подводные камни
Заявленная простота обновления опирается на утверждение авторов и в записи ничем не подтверждена измерениями. Адаптер Decision оценён лишь качественно. Adapter SDK и обучающие материалы пока только готовятся, сроков нет («подробности позже»), так что рассчитывать на собственные адаптеры от сторонних разработчиков пока рано.
«Кроме обучения новой ASR-модели и адаптера Decision, ничего не пересчитывалось: базовая модель не тронута.»
— Авторы блога Granite Switch 4.1.1, IBM