Energy-Based Reasoners решают Sudoku-Extreme на 99,9% с вычислениями в 345 раз меньше

Группа исследователей (William Xingxu Chen, Alexi Gladstone, Zeyu Michael Li, Heng Ji, Yilun Du) опубликовала препринт «Energy-Based Reasoners: Your Recurrent Reasoner Should Be an Energy-Based Model» (arXiv:2611.08977, 2026). В нём предложены Energy-Based Reasoners (EBR), модели рассуждения, которые учатся энергетической функции над скрытыми состояниями рассуждения и трактуют циклические обновления как градиентный спуск по этой энергии.

Исходная проблема, как её описывают авторы: циклические (looped) модели многократно прогоняют один и тот же рекуррентный блок и тем самым наращивают эффективную глубину, позволяя рассуждать в несколько шагов в скрытом пространстве. Но у существующих моделей нет явной меры прогресса: непонятно, когда остановить цикл и как улучшить текущее состояние.

EBR решают это так. Энергия оценивает совместимость скрытого состояния с исходной задачей (например, с начальной доской): чем ниже, тем лучше. Значение энергии оценивает кандидатов без внешнего верификатора. Градиент энергии задаёт направление улучшения, а когда он становится малым, состояние перестаёт меняться, и это служит критерием остановки. Из нескольких кандидатов выбирается решение с наименьшей энергией. Каждая траектория останавливается, когда градиент энергии падает ниже порога, поэтому лёгкие головоломки заканчиваются за несколько шагов, а сложные продолжаются дольше. Больше шагов спуска уточняют ответ, а больше траекторий дают энергии больше кандидатов для выбора.

Для обучения авторы вводят обучение на основе исследования (exploration-based training): оно помогает находить дополнительные моды и лучше формировать энергетический ландшафт на более широком наборе состояний.

Результаты, по заявлению авторов: на четырёх алгоритмических бенчмарках EBR не уступают предыдущим рекуррентным моделям рассуждения или превосходят их при сопоставимых затратах на обучение. На Sudoku-Extreme модель всего с 1,8 млн параметров достигает точности 99,9%, используя в 345 раз меньше вычислений на инференсе, чем следующая по результату модель. На бенчмарках с несколькими решениями (названы N-Queens и Graph Coloring) EBR показывают лучшее на сегодня покрытие различных верных решений, оцениваемое по 20 сэмплам, и сохраняют близкую к 100% точность при единичной выборке. Вывод авторов осторожный: результаты «говорят о том, что энергетические модели, перспективный подход» к сильному рассуждению.

Ключевые факты

  • EBR, циклические модели рассуждения, которые учат энергетическую функцию над скрытыми состояниями и обновляют их градиентным спуском по этой энергии.
  • Энергия оценивает кандидатов без внешнего верификатора, её градиент задаёт уточнение и сигнал остановки: лёгкие задачи завершаются за несколько шагов, сложные идут дольше.
  • На Sudoku-Extreme модель с 1,8 млн параметров достигает 99,9% точности при вычислениях на инференсе в 345 раз меньше, чем у следующей по результату модели (данные авторов).
  • На N-Queens и Graph Coloring EBR заявляют лучшее покрытие различных верных решений (по 20 сэмплам) при близкой к 100% точности одной выборки.
  • Затраты на обучение, по словам авторов, сопоставимы с предыдущими рекуррентными моделями, то есть выигрыш относится к инференсу.

Почему это важно

Циклические модели рассуждения упираются в то, что у них нет встроенного понятия «насколько я близок к ответу». EBR добавляют такую меру, энергию, и получают сразу три вещи из одного механизма: оценку кандидатов, направление улучшения и сигнал остановки. Если заявленная экономия вычислений на инференсе (в 345 раз на Sudoku-Extreme относительно следующей по результату модели) подтвердится независимыми проверками, это аргумент в пользу того, что небольшие модели с адаптивным числом шагов могут конкурировать на алгоритмических задачах. Но авторы сами формулируют вывод осторожно: энергетические модели, «перспективный подход».

Кому это важно

Исследователям рекуррентных и циклических моделей рассуждения, а также тем, кто занимается энергетическими моделями и вычислительно экономным инференсом. Интересно и тем, кого занимает адаптивная глубина вычислений: сколько шагов тратить на задачу, решает сама модель по градиенту энергии. Для практиков, строящих продукты на больших языковых моделях, работа пока косвенно релевантна: проверка проведена на алгоритмических головоломках, а не на языковых задачах.

Как это применить

Прямого готового инструмента в источнике нет: на странице проекта приведены описание, результаты и ссылка для цитирования, о выпуске кода, весов или демо там не сказано. Практически полезны идеи, которые можно перенять: использовать энергию как встроенный верификатор вместо внешнего, останавливать цикл по малому градиенту, выбирать из нескольких траекторий решение с наименьшей энергией и обучать с исследованием, чтобы покрыть больше мод. Чтобы воспроизвести результаты, нужен полный текст препринта arXiv:2611.08977.

Можно ли доверять

Это препринт на arXiv (в источнике не сказано, что он прошёл рецензирование), а все цифры, собственные заявления авторов со страницы проекта. На странице указан коэффициент 345× для Sudoku-Extreme относительно следующей по результату модели; какая именно это модель, не названо. Абсолютные значения вычислений (FLOPs, время, энергопотребление) не приведены, а для N-Queens и Graph Coloring даны лишь формулировки «близко к 100%» и «лучшее покрытие» без конкретных чисел. Названия четвёртого бенчмарка и остальных базовых моделей на странице не указаны. Аффилиации авторов в источнике не даны.

Риски и подводные камни

Результаты получены на алгоритмических задачах с проверяемым ответом (судоку, расстановка ферзей, раскраска графов); перенос на открытые задачи и язык этим материалом не показан. Экономия, на инференсе, а затраты на обучение авторы называют лишь сопоставимыми, а не сниженными. Слово «вычисления» здесь не означает электроэнергию: абсолютных затрат в источнике нет. Наконец, «лучшее покрытие» и «следующая по результату модель» зависят от выбора базовых методов, которые на странице не перечислены, поэтому сравнение стоит проверять по тексту препринта.