AutoMem: Автоматическое обучение памяти как когнитивному навыку
Память, не просто хранилище, но навык, которому можно научиться. Исследователи начали с идеи из когнитивной науки о метапамяти (знание того, что кодировать, когда извлекать, как организовать знания) и применили её к языковым моделям.
АвтоМем состоит из двух взаимодействующих циклов. В первом сильная языковая модель анализирует полные траектории работы агента и итеративно улучшает структуру памяти, форматы файлов, словарь действий, шаблоны подсказок. Во втором цикле сам агент учится на собственных удачных решениях: из множества эпизодов выделяются хорошие решения по управлению памятью и используются как сигнал обучения для повышения мастерства модели.
Авторы тестировали на трёх процедурно генерируемых долгосрочных играх: Crafter, MiniHack и NetHack. Результаты показали, что оптимизация только памяти, без изменения поведения на основных задачах, улучшила производительность базового агента в 2, 4 раза. 32-миллиардная открытая модель достигла конкурентоспособности с фронтирными системами вроде Claude Opus 4.5 и Gemini 3.1 Pro Thinking. Это демонстрирует, что управление памятью, независимо тренируемый навык с высокой отдачей для долгосрочных задач.
Ключевые факты
- Управление памятью рассматривается как тренируемый навык, а не встроенное поведение, аналогично метапамяти из когнитивной науки
- AutoMem использует два автоматизированных цикла: оптимизация структуры памяти (файлы, форматы, действия) и обучение мастерству на собственных успешных решениях
- Производительность возросла в 2, 4 раза на длительных задачах без изменения основного поведения агента, показатель высокого потенциала памяти как рычага
- 32-миллиардная открытая модель с AutoMem достигла паритета с Claude Opus 4.5 и Gemini 3.1 Pro на тестовых игровых окружениях
- Результаты получены на трёх процедурно генерируемых долгосрочных задачах (Crafter, MiniHack, NetHack); воспроизведение на реальных задачах требует дополнительной проверки
Почему это важно
Долгосрочные задачи, слабое место современных агентов: тысячи шагов, ошибки памяти могут проявиться с огромной задержкой. Исследование показывает, что память поддаётся обучению как отдельный навык (аналогично когнитивной науке) и может дать двух-четырёхкратный прирост производительности. Это меняет понимание: вместо того чтобы вручную оптимизировать структуры памяти, можно автоматизировать оба уровня улучшения, структуру и мастерство.
Кому это важно
Исследователям языковых моделей и разработчикам агентов для сложных многошаговых задач. Лабораториям, работающим с открытыми моделями и ищущим способ повысить их конкурентоспособность. Организациям, которые разворачивают агентов для планирования, отладки или навигации в больших информационных пространствах.
Как это применить
AutoMem предлагает практический путь: сделать файловые операции первоклассной частью памяти действий наряду с основными действиями, позволить модели самой решать, как организовать своё хранилище, а затем использовать два автоматизированных цикла обучения, пересмотр структуры по полным траекториям и шлифовку мастерства на хороших примерах. Это может быть особенно ценно для тонкой настройки открытых моделей перед развёртыванием в продакшн.
Можно ли доверять
Исследование основано на конкретных метриках производительности на трёх хорошо известных игровых окружениях с экспериментально чистыми условиями. Авторы сравнивают с публичными бенчмарками (Claude Opus, Gemini). Однако результаты получены на задачах, которые процедурно генерируются, это контролируемые, а не реальные окружения.
Риски и подводные камни
Улучшения показаны на специфических игровых задачах; влияние на реальные многошаговые задачи (например, работу с кодом, сложное рассуждение в открытых доменах) требует независимой проверки. Две петли обучения требуют значительных вычислительных затрат на анализ полных траекторий и итеративный пересмотр. Возможность переноса полученных структур памяти между разными типами задач остаётся открытым вопросом.
«Управление памятью, это независимо тренируемый навык с высокой отдачей, дающий существенное улучшение производительности на долгосрочных задачах.»
— AutoMem: исследование