ИИтог

PreSTO ускоряет степенное сэмплирование LLM: медианно в 1,71, 2,33 раза

исследованияРедакция ИИтогHugging Face🔥60Рейтинг ИИтог60Влияние55Новизна65Релевантность100Неожиданность35Участники10Достоверность80
PreSTO ускоряет степенное сэмплирование LLM: медианно в 1,71, 2,33 раза

Степенное сэмплирование (power sampling) улучшает рассуждения больших языковых моделей на этапе вывода: ответ берётся из «заострённой» версии распределения базовой модели. Его сэмплер PowerMH работает медленно, потому что обновления по алгоритму Метрополиса, Гастингса (MH) последовательны: каждое решение «принять или отклонить» задаёт состояние, из которого генерируется следующее предложение. Прежние работы снижали стоимость, меняя сам сэмплер или модель, например, через последовательный метод Монте-Карло, приближённое заглядывание вперёд или дистилляцию.

Авторы предлагают Predictive SubTree Prefetching (PreSTO), «предиктивную упреждающую генерацию поддеревьев». Метод ускоряет PowerMH за счёт того, что заранее генерирует будущие предложения, и, по заявлению авторов, доказуемо оставляет переходное ядро MH неизменным. PreSTO рассматривает будущие исходы MH как дерево решений «принять или отклонить». В каждом вызове модели он одним пакетом (батчем) генерирует предложения для заранее выбранного поддерева этого дерева, а затем проходит по реализовавшемуся пути с исходным правилом принятия MH.

Авторы также отмечают, что MH достигает лишь разреженной, почти унарной части каждого заранее сгенерированного поддерева. Поэтому они разработали предиктивное правило обхода: оно выбирает поддерево так, чтобы максимизировать предсказанное число завершённых переходов.

Результаты. На семи наборах данных и пяти базовых LLM медианное ускорение PreSTO составило 1,71× на PowerMH, 1,91× на его продолжении EntropyCut и 2,33× на MultiTryMH. На первых двух методах (PowerMH и EntropyCut) число вызовов модели в медиане в 3,9 раза меньше, при этом каждый вызов всего в 2,1 раза длиннее. На LCB V6 с моделью Qwen3.5-9B предиктивное правило обхода оказалось ещё в 1,25-1,37 раза быстрее обхода в ширину, который используется по умолчанию.

Ключевые факты

  • PreSTO ускоряет сэмплер PowerMH степенного сэмплирования: заранее генерирует будущие предложения MH одним пакетом и, по утверждению авторов, доказуемо не меняет переходное ядро MH.
  • Медианное ускорение по семи наборам данных и пяти базовым LLM: 1,71× на PowerMH, 1,91× на EntropyCut и 2,33× на MultiTryMH.
  • На PowerMH и EntropyCut вызовов модели в медиане в 3,9 раза меньше, а каждый вызов в 2,1 раза длиннее.
  • Предиктивное правило обхода выбирает поддерево, максимизируя предсказанное число завершённых переходов; на LCB V6 с Qwen3.5-9B оно в 1,25, 1,37 раза быстрее обхода в ширину по умолчанию.
  • В отличие от прежних подходов (последовательный метод Монте-Карло, приближённое заглядывание вперёд, дистилляция), метод не меняет ни сэмплер, ни модель.

Почему это важно

Степенное сэмплирование улучшает рассуждения LLM на этапе вывода, но его сэмплер PowerMH медленный: шаги Метрополиса, Гастингса идут строго друг за другом. Прежние ускорения меняли сэмплер или модель. PreSTO устроен иначе: он перестраивает порядок вычислений (генерирует будущие предложения заранее и пакетом), а исходное правило принятия MH сохраняет. По заявлению авторов, это доказуемо не меняет переходное ядро, то есть сохраняет распределение, из которого сэмплирует PowerMH.

Кому это важно

Прежде всего исследователям и инженерам, которые работают с вычислениями на этапе вывода и используют или изучают PowerMH и его продолжения EntropyCut и MultiTryMH. Идея может заинтересовать и тех, кто ищет способ ускорить цепочки с последовательными решениями «принять или отклонить», не меняя саму модель.

Как это применить

PreSTO, надстройка над существующим PowerMH: вместо одного предложения за вызов модель генерирует пакетом предложения для поддерева будущих исходов, после чего решения принимаются по исходному правилу MH. Выбор поддерева можно делать предиктивным правилом обхода, которое в сравнении на LCB V6 с Qwen3.5-9B быстрее обхода в ширину. Выпуск кода или модели в аннотации не упомянут, готовых цен и условий использования в тексте нет.

Можно ли доверять

Пересказ основан только на аннотации статьи; все цифры, заявления самих авторов. Результаты даны как медианные ускорения по семи наборам данных и пяти базовым LLM. В аннотации не названы авторы и организации, не перечислены наборы данных и модели (кроме LCB V6 и Qwen3.5-9B в сравнении правил обхода), а также отсутствуют абсолютное время и сведения об аппаратуре.

Риски и подводные камни

Все ускорения указаны только в относительных величинах, без абсолютного времени и оборудования. Показатели 3,9× по числу вызовов и 2,1× по их длительности заявлены лишь для PowerMH и EntropyCut, для MultiTryMH их нет. Гарантия касается неизменности переходного ядра MH; влияние на точность и качество рассуждений в аннотации отдельно не приводится.