Mental World Modeling: фреймворк, который учит ИИ понимать мысли людей
Существующие модели мира (world model) в ИИ-системах учатся предсказывать, как изменится физическая сцена: что где находится и как оно будет двигаться. Но поведение человека определяется не только физикой, а скрытым психическим состоянием: во что он верит, чего хочет, что намерен сделать, что чувствует и что считает социально приемлемым. По мнению авторов, модель, которая отслеживает только сцену, но не то, что знает и во что верит каждый участник события, предсказывает неверное действие даже для внешне понятной сцены.
Авторы формулируют Mental World Modeling (MWM), общий теоретический фреймворк, в котором психические переменные становятся не постфактум-объяснением поведения, а базовым компонентом модели мира наравне с физическим состоянием. MWM ведёт совмещённое физически-психическое состояние мира, строит частичное наблюдение под конкретную цель и моделирует, как каждое возможное действие меняет одновременно и физическую сцену, и психическое состояние участников.
На основе фреймворка авторы реализовали MENTIS, не требующий обучения и полностью прозрачный (inspectable) эталонный метод. Он разбивает задачу на пять шагов: разбор состояния, построение наблюдения под конкретную цель, декомпозицию действия, совмещённый физически-психический переход состояния и оценку ценности на уровне отдельных веток решения (branch-level value evaluation).
Метод проверили на собранном вручную и прошедшем контроль качества датасете ситуативных сценариев принятия решений, истории представлены в виде текста, изображений и звукового видео. В экспериментах участвовали восемь современных ИИ-моделей мира на основе больших языковых моделей (LLM). Результат: явное моделирование психического состояния оказалось необходимым условием для правильного предсказания решений человека. Более глубокий анализ также выявил узкие места текущих подходов к моделированию психики, хотя в исходном тексте не раскрывается, какие именно.
Конкретных числовых результатов (точности, баллов) по каждой из восьми протестированных моделей мира в источнике не приводится, только качественный вывод о пользе учёта психики. Не указаны также полный авторский коллектив, аффилиации, издание или конференция, дата публикации и размер датасета.
Ключевые факты
- MWM делает психические переменные (убеждения, желания, намерения, чувства, социальные нормы) базовым, а не постфактум-компонентом модели мира.
- Эталонный метод MENTIS не требует обучения, полностью прозрачен и раскладывает задачу на пять шагов: разбор состояния, построение целевого наблюдения, декомпозицию действия, совмещённый физически-психический переход и оценку веток решения.
- Проверка велась на собранном вручную датасете ситуативных сценариев (текст, изображения, звуковое видео) с участием восьми современных ИИ-моделей мира на базе LLM.
- Явный учёт психического состояния оказался необходим для верного предсказания решений человека, модели, следящие только за физической сценой, чаще ошибаются.
- Более глубокий анализ выявил узкие места текущего моделирования психики, но конкретные числа и детали в источнике не раскрыты.
Почему это важно
Модели мира в ИИ обычно предсказывают только физическое развитие сцены, что где находится и как изменится. Но человек действует исходя из того, во что он верит, чего хочет и что намерен сделать, а не только из физики окружения. Авторы показывают: модель, которая не учитывает эти скрытые психические переменные, предсказывает неверное действие даже для сцены, которая выглядит понятной. MWM предлагает включить психическое состояние, убеждения, желания, намерения, чувства и социальные нормы, как базовый, а не вспомогательный компонент модели мира.
Кому это важно
Разработчикам ИИ-агентов и систем, которые должны предсказывать или планировать действия с учётом поведения людей, от диалоговых и мультимодальных агентов до систем поддержки решений и робототехники. Полезно и исследователям, которые развивают направление моделей мира и хотят перейти от симуляции только физических сцен к симуляции разума действующих в них людей.
Как это применить
Фреймворк MWM ведёт совмещённое физически-психическое состояние мира и моделирует, как каждое кандидатное действие меняет и физическую сцену, и психику участников. Практическая реализация, эталонный метод MENTIS: он не требует обучения, полностью прозрачен и раскладывается на пять шагов, разбор состояния, построение наблюдения под конкретную цель, декомпозицию действия, совмещённый физически-психический переход состояния и оценку ценности на уровне отдельных веток решения. Такую конструкцию можно использовать как базовый метод при построении и оценке систем, которым нужно предсказывать поведение человека, а не только физику сцены.
Можно ли доверять
Работа проверена экспериментально, на восьми современных ИИ-моделях мира на основе LLM и на собственном датасете ситуативных сценариев, прошедшем контроль качества. При этом в доступном тексте источника не указаны ни полный состав авторов и их аффилиации, ни издание или дата публикации, ни размер датасета, ни конкретные числовые показатели (точность, баллы) по каждой из восьми протестированных моделей, приведён только качественный вывод о пользе учёта психики.
Риски и подводные камни
Датасет собран авторами вручную под конкретную задачу, такие данные могут не отражать разнообразие реальных ситуаций и давать смещённую оценку. Метод MENTIS не требует обучения, что упрощает внедрение, но может ограничивать точность по сравнению с обучаемыми подходами. Сами авторы отмечают, что более глубокий анализ выявил узкие места текущего моделирования психики, но какие именно, в источнике не раскрыто, так что зрелость подхода для практического применения пока не подтверждена.