Qwen3-8B теряет счётчик в 20 из 20 прогонов, если вставлять лишний текст
В статье на arXiv предлагают измерять сбои языковых моделей на длинных задачах не итоговой успешностью и не «длиной горизонта», а пошагово и по компонентам. Авторы взяли задачу-«гроссбух» из 400 шагов, где каждый шаг по отдельности прост, а собственные ответы модели возвращаются ей в контекст. На каждом шаге оценивались три компонента: узнавание записи, уже встречавшейся 5-300 шагов назад, локальная обработка текущей записи и запись счётчика, который увеличивается на каждом шаге.
Эксперименты шли на Qwen3-8B (без режима рассуждений, 20 прогонов с разными seed) и были повторены на второй машине и другом бэкенде. Первый результат: ошибки узнавания повторов растут к концу эпизода, с 0,0019 до 0,011 на шаг, подверженный риску, при переходе через шаг 200. Рост складывается из ошибок припоминания на большой дистанции и растущего числа ложных срабатываний. При этом счётчик в базовых условиях не ошибся ни разу за 8000 шагов, а локальная обработка, по описанию авторов, стабильна.
Второй результат: если перед каждым шагом вставлять блок нерелевантного содержимого, счётчик ломается в 20 из 20 прогонов на каждой из двух машин, тогда как без такого блока не ломается ни в одном. Влияние блока на локальную обработку гораздо меньше и неотличимо от нулевого.
Три заранее зарегистрированных дополнительных эксперимента посвящены счётчику. Его значение зависит от значения, присутствующего в истории ответов: испорченное значение сохраняется без исправления в каждом прогоне, а точное внешнее напоминание, повторяемое перед каждым сообщением, возвращает счётчик в норму за один-два шага. При нерелевантном блоке ошибок счётчика не наблюдалось, когда перед каждым сообщением стояло точное компактное напоминание состояния, поданное извне «оракулом»: 0 из 20 прогонов с ошибкой против 15 без напоминания. Такое напоминание сработало лучше нейтрального текста той же длины. Достаточно ли одного напоминания, выяснить не удалось, а отсутствие вреда для остальных компонентов не установлено. Авторы отмечают, что агрегированная или взаимоисключающая классификация ошибок может скрыть описанную разницу.
Ключевые факты
- Задача из 400 шагов оценивалась пошагово по трём компонентам: узнавание повторов (запись видели 5-300 шагов назад), локальная обработка и счётчик, растущий на каждом шаге.
- Ошибки узнавания повторов растут к концу эпизода: с 0,0019 до 0,011 на шаг, подверженный риску, при переходе через шаг 200.
- Счётчик не ошибся ни разу за 8000 шагов, но блок нерелевантного текста перед каждым шагом ломает его в 20 из 20 прогонов на каждой из двух машин; локальная обработка почти не страдает.
- Испорченное значение счётчика не исправляется само, а точное внешнее напоминание возвращает его в норму за один-два шага.
- С напоминанием состояния от «оракула» при нерелевантном блоке ошибок счётчика не было (0 из 20 прогонов против 15 без него); хватает ли одного напоминания, осталось неясным.
Почему это важно
Сбои на длинных задачах обычно описывают итоговым успехом или длиной горизонта. Работа показывает, что внутри одной длинной задачи разные компоненты ломаются по-разному и по разным причинам: узнавание повторов деградирует постепенно, а счётчик держится безупречно, пока в контекст не попадёт посторонний текст. Авторы подчёркивают, что агрегированная классификация ошибок может скрыть эту разницу.
Кому это важно
Исследователям, которые оценивают надёжность языковых моделей на длинных горизонтах, и разработчикам систем, где ответы модели возвращаются ей в контекст и она ведёт счётчики или иное состояние от шага к шагу.
Как это применить
Практический вывод из результатов: если модель должна поддерживать состояние на длинной дистанции, точное внешнее напоминание этого состояния перед каждым сообщением возвращало испорченный счётчик в норму за один-два шага. Но в эксперименте напоминание подавал «оракул» извне, и работа не утверждает, что это сработает без такого источника точного состояния.
Можно ли доверять
Сильные стороны: пошаговая оценка по компонентам, 20 прогонов на условие, повторение на второй машине и бэкенде, три заранее зарегистрированных дополнительных эксперимента. Это препринт на arXiv. Проверялась только одна модель, Qwen3-8B без режима рассуждений, поэтому переносить выводы на другие модели и размеры нельзя. Сами авторы признают, что достаточность одного напоминания неясна, а отсутствие вреда для остальных компонентов не установлено.
Риски и подводные камни
Результат наблюдательный: ошибок счётчика «не наблюдалось» при напоминании от оракула, это не общая гарантия. Нерелевантный блок ломал счётчик в 20 из 20 прогонов, но причина этого механизма в аннотации не раскрыта. Не стоит читать работу как доказательство, что модель вообще не умеет считать: в базовых условиях счётчик не ошибся ни разу за 8000 шагов.