Как персона агента влияет на поведение ИИ в игре «Делись или воруй»
Исследователи проверили, насколько персоны (текстовые описания характера, которые задают агенту) реально влияют на его поведение в социальной дилемме, классической игре на доверие «Делись или воруй» (Split or Steal). В игре два игрока одновременно выбирают «поделиться» или «украсть»: если оба делятся, оба получают награду; если один ворует, а другой делится, вор забирает всё; если оба воруют, оба остаются ни с чем.
Агентам с разными персонами противостоял «виртуальный человек» (VH), оппонент на фиксированном промпте, управляемый моделью GPT-4.1 mini. Персон-агентов запускали на четырёх открытых моделях: Ministral 3:3b, phi4:14b, Gemma3:12b и Gemma4:e4b, при двух температурах (0.3 и 0.7), а также в детерминированном режиме с нулевой температурой. Всего провели 160 сессий по 15 раундов каждая, диалоги велись на европейском португальском.
В большинстве раундов (примерно 74%) оба игрока выбирали «делиться»; случаи обмана (эксплуатации) встретились менее чем в 11% раундов. Выбор базовой модели заметно влиял на стратегию: phi4:14b и Ministral 3:3b оставались стабильно кооперативными независимо от температуры, тогда как Gemma3:12b и Gemma4:e4b показывали более разнообразные и менее предсказуемые стратегии.
Анализ персон по модели личности «Большая пятёрка» показал: просоциальные и принципиальные персоны сотрудничали наиболее последовательно, а аналитическая персона чаще других выбирала обман виртуального оппонента. Анализ тематики диалогов выявил связь: разговоры о дружбе сопровождали решение «делиться», а разговоры о деньгах и мести, решение «украсть». Метки тональности (в основном нейтральная или «счастливая») почти ничего не добавляли к объяснению поведения.
Авторы подчёркивают, что это базовое (baseline) исследование, оно готовит почву для будущих экспериментов в виртуальной реальности с участием живых людей, взаимодействующих с воплощённым виртуальным человеком.
Ключевые факты
- 160 сессий по 15 раундов игры «Делись или воруй»: персон-агенты на европейском португальском против виртуального оппонента на GPT-4.1 mini
- Четыре модели с персонами, Ministral 3:3b, phi4:14b, Gemma3:12b, Gemma4:e4b, тестировались при температуре 0.3, 0.7 и в детерминированном режиме
- Взаимное сотрудничество (оба делятся), около 74% раундов, обман, менее 11%
- phi4:14b и Ministral 3:3b кооперативны стабильно при любой температуре; Gemma3:12b и Gemma4:e4b ведут себя менее предсказуемо
- Просоциальные и принципиальные персоны сотрудничают чаще всего, аналитическая персона чаще всех обманывает; разговоры о дружбе связаны с «делиться», о деньгах и мести, с «украсть»
Почему это важно
Персоны, текстовые описания характера в системном промпте, давно используют, чтобы направлять поведение ИИ-агентов, но насколько они реально работают в стратегических социальных ситуациях, было неясно. Это исследование одним из первых проверяет эффект персоны не на отдельном ответе, а на последовательности решений в повторяющейся игре на доверие, и показывает, что персона и выбор базовой модели вместе систематически меняют баланс между сотрудничеством и обманом.
Кому это важно
Разработчикам агентов для переговоров, продаж, поддержки и многоагентных систем, где персона задаёт стиль поведения ИИ по отношению к другим сторонам; исследователям безопасности и согласованности (alignment) ИИ, изучающим стратегическое поведение моделей; создателям виртуальных людей и VR-агентов, которым предстоит взаимодействовать уже с живыми людьми.
Как это применить
Выбор персоны и базовой модели, не косметика, а рычаг управления поведением агента: просоциальная или принципиальная персона повышает надёжность сотрудничества, тогда как аналитическая персона повышает риск обмана оппонента. При этом не все модели одинаково «слушаются» персоны, phi4:14b и Ministral 3:3b держат кооперативную линию при любой температуре, а модели семейства Gemma в этом исследовании вели себя менее стабильно. Это стоит учитывать при выборе модели и персоны для агентов, взаимодействующих с людьми или другими агентами в ситуациях с элементом доверия.
Можно ли доверять
Методология прозрачна: 160 контролируемых сессий по 15 раундов, фиксированный оппонент на GPT-4.1 mini, четыре открытые модели при разных температурах, отдельный анализ по чертам личности «Большая пятёрка» и по тематике диалогов. Ограничение, работа пока существует как препринт на arXiv, не прошедший рецензирование, эксперимент проведён только на европейском португальском и на ограниченном наборе относительно небольших открытых моделей; сами авторы называют результаты базовой линией (baseline) для будущих исследований с участием живых людей.
Риски и подводные камни
Результаты получены на конкретном наборе моделей и одном языке (европейский португальский), поэтому не факт, что они прямо переносятся на другие языки или на более крупные закрытые модели. Виртуальный оппонент был только один, с фиксированным промптом, что ограничивает разнообразие сценариев проверки. Анализ тональности диалогов оказался малоинформативным, а сам эксперимент, предварительный шаг перед более сложными VR-исследованиями с живыми людьми, поэтому окончательных выводов о поведении персон в реальных приложениях делать пока рано.