Открытые классификаторы в стиле Jev смотрят на метки, а не на определения
Типизированная модель принятия решений отвечает на фиксированный вопрос о входных данных: для каждого из нескольких заданных вызывающей стороной вариантов она возвращает вероятность. У каждого варианта есть короткая метка и письменное определение, и именно в определении разработчик формулирует правило, которое модель должна применять. Этот интерфейс предложил Jev для маршрутизации, модерации и сортировки обращений, затем появились открытые реализации. Авторы статьи отмечают, что та же операция происходит всякий раз, когда языковую модель используют как классификатор, оценивая строки-метки.
Авторы изучали открытые реализации, у которых можно осмотреть и «подправить» веса, и проверяли, следует ли вероятность определениям или меткам. Предпочтение метки они называют option-label bias (смещением по метке варианта). Проверка охватила четыре открытые типизированные модели, три способа считывания ответа с основы Qwen2.5, одиннадцать задач классификации и PolicyBench, синтетический набор задач на маршрутизацию, который авторы сами предложили и в котором правило содержится только в определениях. Вывод авторов: ответ в основном определяется метками.
Числа выглядят так. Если удалить все определения, точность почти не меняется (для laya-td: 0,8559 против 0,8487), хотя сами определения сами по себе обеспечивают точность 0,7971. А если переименовать варианты в A и B, точность растёт на +0,1511 (доверительный интервал [+0,1377; +0,1646]).
Одна система, von, этому смещению не подвержена. Две кодовые базы различаются одним выражением: laya записывает каждый вариант как «{метка}: {определение}», а von записывает только определение. Если изменить это выражение в обе стороны, не трогая веса, все три контрольные точки (checkpoints) laya становятся ровно инвариантными (+0,0000 [+0,0000; +0,0000]), а у von эффект появляется: когда метка противоречит определению, точность падает с 0,8511 до 0,2281.
Ранее эту проблему связывали с ограниченной «головой решения», которую такие модели используют вместо текстового декодера. По результатам авторов, причина, в способе записи вариантов в промпте. Они предлагают тест из двух вызовов, который подскажет практику, какой случай относится к его модели, и измеряют, чего стоят четыре способа смягчения проблемы.
Ключевые факты
- Изучены четыре открытые типизированные модели решений, три способа считывания ответа с основы Qwen2.5, одиннадцать задач классификации и синтетический набор PolicyBench.
- Удаление всех определений почти не меняет точность (laya-td: 0,8559 против 0,8487), а переименование вариантов в A и B даёт +0,1511.
- Причина, в способе записи вариантов в промпте: laya пишет «{метка}: {определение}», von, только определение; смена выражения без изменения весов убирает эффект в laya и создаёт его в von.
- У von при противоречии метки и определения точность падает с 0,8511 до 0,2281.
- Авторы предлагают тест из двух вызовов и оценивают четыре способа смягчения.
Почему это важно
Типизированные модели решений используют для маршрутизации, модерации и сортировки обращений, и разработчик рассчитывает, что правило задаёт определение варианта. Работа показывает, что в изученных открытых реализациях ответ в основном следует меткам: удаление всех определений оставляет точность практически прежней. Авторы также оспаривают прежнее объяснение, по которому виновата «голова решения» вместо текстового декодера: по их результатам, дело в способе записи вариантов в промпте.
Кому это важно
Разработчикам, которые строят классификаторы, маршрутизаторы и модерацию на открытых моделях с вариантами «метка плюс определение». Также тем, кто использует языковую модель как классификатор через оценку строк-меток: по словам авторов, та же операция возникает и там.
Как это применить
Авторы дают тест из двух вызовов, позволяющий определить, какой случай относится к вашей модели, и измеряют, чего стоят четыре способа смягчения. Что именно входит в тест и каковы результаты способов смягчения, в тексте не раскрыто, поэтому детали нужно смотреть в полной статье. Практический ориентир из самой работы: проверить, как ваша система записывает варианты в промпте, с меткой, как laya («{метка}: {определение}»), или только с определением, как von.
Можно ли доверять
Это краткое описание статьи на Hugging Face; авторы и организации в нём не названы. Выводы подкреплены числами с доверительными интервалами, а ключевой механизм проверен вмешательством в одно выражение при неизменных весах, в обе стороны, на двух кодовых базах. Это свидетельство в пользу причинной связи именно с записью вариантов в промпте. Оценки точности приводятся самими авторами.
Риски и подводные камни
Работа посвящена открытым реализациям, у которых можно осмотреть и изменить веса; на закрытые модели выводы напрямую не распространяются. Для пары 0,8559 и 0,8487 не уточнено, какое число относится к варианту с определениями, а какое без них. Названия моделей, кроме laya-td и von, не приведены. Падение точности von с 0,8511 до 0,2281 относится к условию, когда метка противоречит определению, и не является общей оценкой качества модели.