Предложена архитектура DPDM: решения агентов принимает замороженный предиктор LimiX-2

В препринте, опубликованном в списке Hugging Face Papers, предложена архитектура Decoupled Predictive Decision Making (DPDM, «разделённое предиктивное принятие решений»). Исходная мысль такова: решения агента зависят от эмпирических закономерностей, которые видны только по наблюдениям в ходе работы, а одного описания задачи для их выяснения может не хватить.
DPDM формулирует разнородные решения агента как задачу условного предсказания с общим предобученным предсказателем. Языковые модели строят смысловые представления текущих и прошлых записей. Затем универсальный условный предиктор по этим представленным данным предсказывает целевые величины, заданные задачей. Предобучение даёт переиспользуемую способность к выводу, а данные, собранные при работе агента, превращают её в предсказание под конкретную задачу, при этом нейросетевые параметры ни одной из двух моделей не обновляются. Оценки инструментов, предпочтения между кандидатами и оценки шагов рассуждения используют общий интерфейс «свидетельства и запрос», а правило принятия решения превращает предсказания в выбор. По замыслу авторов, это разводит два источника возможностей агента: смысловые знания, полученные при языковом предобучении, и эмпирический вывод, полученный при предобучении на структурированных данных.
Один замороженный предиктор LimiX-2 обслуживает все пять категорий задач. Основные результаты получены с Qwen3.5-27B в роли смыслового кодировщика. Средняя точность на 50 бенчмарках выросла с 78,80% при подсказках из нескольких примеров (few-shot prompting) до 84,92%, при тех объёмах истории, которые оценивались для каждого из методов. При одинаковых историях и запросах DPDM показывает 82,33%. На задачах BFCL и ToolSandbox из набора ToolPRMBench абсолютный прирост точности составил 34,26% и 28,87% соответственно, также при объёмах истории, оценённых для каждого метода. Точность растёт по мере накопления истории. На пяти задачах оценки шагов рассуждения с четырьмя кодировщиками при одинаковых несбалансированных историях средняя сбалансированная точность выросла на 14,51% в абсолютном выражении.
Итоговый вывод авторов: DPDM делает обучение на опыте независимо улучшаемой способностью базовых моделей и создаёт общий путь, по которому успехи в условном предсказании могут улучшать решения агентов в разных задачах.
Ключевые факты
- DPDM делит работу агента: языковая модель (в основных результатах Qwen3.5-27B) кодирует текущие и прошлые записи, а единый замороженный предиктор LimiX-2 предсказывает целевые величины задачи.
- Параметры обеих моделей не обновляются: под задачу предиктор настраивают только данные, собранные при работе агента.
- Средняя точность на 50 бенчмарках: 84,92% против 78,80% у few-shot подсказок (при оценённых для каждого метода объёмах истории); при одинаковых историях и запросах, 82,33%.
- На BFCL и ToolSandbox из ToolPRMBench абсолютный прирост точности, 34,26% и 28,87%.
- На пяти задачах оценки шагов рассуждения сбалансированная точность выросла в среднем на 14,51% (абсолютно) при одинаковых несбалансированных историях.
Почему это важно
Идея в том, что умение учиться на накопленном опыте можно вынести из языковой модели в отдельный предиктор, который улучшают независимо. По словам авторов, тогда прогресс в условном предсказании по структурированным данным сразу даёт выигрыш решениям агентов в разных задачах, а дообучать модели для этого не нужно.
Кому это важно
Исследователям и разработчикам агентных систем, которые принимают решения по накопленной истории: выбор вызова инструмента, сравнение вариантов, оценка шагов рассуждения. Также тем, кто следит за сочетанием языковых моделей с моделями для табличных и структурированных данных.
Как это применить
Из описания видно схему: языковая модель превращает записи в представления, предиктор получает свидетельства и запрос, а правило принятия решения выбирает действие. Практически важно, что адаптация идёт за счёт данных из работы агента, без обновления весов. Сведений о выпуске кода, моделей и лицензии в описании нет, поэтому применимость на практике пока нельзя оценить.
Можно ли доверять
Это препринт: все цифры приведены самими авторами и не подтверждены независимо. В описании не названы авторы и организации. Прирост зависит от условий сравнения: 84,92% получено при оценённых для каждого метода объёмах истории, а при одинаковых историях и запросах результат ниже, 82,33%. Объёмы истории для 84,92% и для результатов на ToolPRMBench в описании не указаны.
Риски и подводные камни
В описании не указаны абсолютные уровни точности на BFCL и ToolSandbox и состав сравнений помимо few-shot подсказок, поэтому масштаб прироста трудно соотнести с сильными базовыми решениями. Названы не все пять категорий задач, а четыре кодировщика в результате по рассуждениям не перечислены. Результат с Qwen3.5-27B может не переноситься на другие кодировщики: проверка с четырьмя кодировщиками приведена только для оценки шагов рассуждения. Точность растёт с историей, значит, метод зависит от накопленных данных.