Check Token: спецтокен <CHECK> для самопроверки рассуждений нейросети
Авторы работы на arXiv исходят из аналогии с памятью ECC: в ней на каждые 64 бита данных приходится 8 бит чётности. Они не несут данных и лишь защищают целостность, а накладные расходы составляют около 12,5%. При каждом чтении ошибки обнаруживаются и исправляются автоматически. В рассуждениях больших языковых моделей, по словам авторов, такой встроенной самопроверки нет: если ошибка возникла, она распространяется по цепочке рассуждений, а существующие методы умеют проверять результат только снаружи, после завершения генерации.
В ответ предлагается «check token» (токен проверки). В словарь модели добавляется функциональный маркер
Две дополнительные техники. Спекулятивное ветвление (speculative forking), по утверждению авторов, устраняет задержку, возникающую при ложных срабатываниях. Посегментное вознаграждение (segmented reward) делает момент срабатывания токена обучаемым сквозным образом.
Эксперименты проведены на Qwen3-32B / Qwen3-Next. Авторы сообщают, что check token даёт прирост +10,8 процентного пункта на бенчмарке HMMT25 при накладных расходах 1,13x, а эффективность по токенам в 88 раз выше, чем у Best-of-8 (выбора лучшего из восьми ответов). Кроме того, по их данным, преимущество точного усечения монотонно растёт с длиной цепочки рассуждений.
Источник, аннотация препринта: имена авторов и организаций, базовый уровень точности и то, к какой из двух моделей относится прирост +10,8 п.п., в ней не указаны.
Ключевые факты
- Предложен служебный токен
: модель выводит его в любой позиции и запускает самопроверку (анализ, локализацию, усечение, переписывание) своей цепочки рассуждений. - Идея взята из ECC-памяти: 8 бит чётности на 64 бита данных при накладных расходах около 12,5%; у check token авторы называют расходы около 13%.
- Заявленный результат: +10,8 п.п. на HMMT25 при накладных расходах 1,13x в экспериментах на Qwen3-32B / Qwen3-Next.
- Эффективность по токенам, по утверждению авторов, в 88 раз выше, чем у Best-of-8; преимущество точного усечения растёт с длиной цепочки.
- Обучение: спекулятивное ветвление против задержки при ложных срабатываниях и посегментное вознаграждение, чтобы момент срабатывания обучался сквозным образом.
Почему это важно
Ошибки в длинных цепочках рассуждений нейросетей накапливаются: раз возникнув, ошибка тянется дальше, а внешние проверки срабатывают только после окончания генерации. Работа предлагает другой подход: проверять рассуждение прямо по ходу генерации и обрезать цепочку на месте ошибки, а не пересчитывать ответ целиком. Если заявленные авторами цифры подтвердятся, это способ повысить точность без многократной генерации, как в Best-of-8. Пока это лишь заявление авторов препринта.
Кому это важно
Исследователям рассуждающих моделей и обучения с подкреплением, а также командам, которые сами дообучают модели вроде Qwen3 и заинтересованы в экономии токенов при генерации длинных рассуждений. Обычным пользователям и разработчикам приложений работа пока практической пользы не даёт.
Как это применить
Напрямую применить пока нечего: в аннотации не упоминаются выпуск кода или моделей. Идея требует изменений на уровне модели: добавления токена
Можно ли доверять
Источник, аннотация препринта на arXiv. Цифры в ней приведены самими авторами, независимой проверки нет. Неизвестно, прошла ли работа рецензирование. Имена авторов и организаций в тексте не указаны. Не уточнено, к какой из моделей, Qwen3-32B или Qwen3-Next, относится прирост +10,8 п.п. и какова базовая точность на HMMT25. Результаты на других бенчмарках не приведены. Утверждение «впервые» тоже принадлежит авторам.
Риски и подводные камни
Смысл «накладных расходов 1,13x» в аннотации не определён: это могут быть токены, вычисления или задержка. Сравнение «в 88 раз эффективнее Best-of-8» тоже зависит от того, как именно посчитана эффективность по токенам. Авторы сами отмечают проблему ложных срабатываний и задержки из-за них и предлагают спекулятивное ветвление, но насколько оно помогает на практике, по аннотации оценить нельзя. Результаты на единственном названном бенчмарке (HMMT25) не гарантируют аналогичного эффекта на других задачах.