Авторы эссе для Deepmind Institute предложили «Artificial Symbiotic Intelligence» вместо сингулярности

Исследователи, связанные с Google, Бенджамин Браттон (Benjamin Bratton), Блэз Агуэра-и-Аркас (Blaise Agüera y Arcas) и Джеймс Маньика (James Manyika), написали эссе для Deepmind Institute. Они оспаривают привычный образ одинокого сверхразума и утверждают, что общий искусственный интеллект (AGI) возникнет из социальной системы, в которой люди и ИИ-агенты работают вместе. Опорой служит наблюдение, что часть самых мощных сегодняшних ИИ-систем уже использует фреймворки, которые делят работу между несколькими моделями и координируют их как команды.

Из этого, по мнению авторов, меняется главная задача исследований: нужно координировать и регулировать сложную сеть агентов, людей и связывающих их систем, а не строить изолированный машинный интеллект. Интеллект при таком взгляде, социальное явление, а не индивидуальное свойство. Своё видение авторы называют «Artificial Symbiotic Intelligence» (искусственный симбиотический интеллект): экосистема, где люди и машины сосуществуют во времени, влияют друг на друга и вместе принимают решения. Идея напрямую противопоставлена «сингулярности», которую вызывает один непрерывно улучшающий себя сверхразум.

Аргумент опирается на две более ранние работы из круга авторов. В препринте «Agentic AI and the next intelligence explosion» Джеймс Эванс (James Evans), Браттон и Агуэра-и-Аркас развили социальную и институциональную перспективу. Эмпирическую поддержку даёт второй препринт, «Reasoning Models Generate Societies of Thought» (Джунсоль Ким, Шиян Лай, Нино Шеррер, Агуэра-и-Аркас, Эванс): в нём изучены рассуждающие модели вроде DeepSeek-R1 и QwQ-32B. Анализ цепочек рассуждений, как сказано в источнике, показывает, что такие модели часто воспроизводят паттерны, напоминающие внутренний спор: смену точек зрения, возражения, примирение конфликтующих подходов. Это поведение возникает в обучении, а не закладывается явно: когда обучение с подкреплением вознаграждает модель только за точность рассуждений, она сама приходит к многоперспективному, «разговорному» поведению. Эссе переносит этот вывод с отдельных моделей на возможное устройство обществ из людей и агентов.

Авторы рассматривают происходящее как возможный исторический разрыв. Урбанизация, рост числа специализированных профессий и падение рождаемости на фоне роста благосостояния сокращают население индустриальных стран, тогда как число экземпляров ИИ-агентов быстро растёт. Баланс между биологическими и синтетическими мыслителями на человеческом уровне может сместиться так быстро, что в масштабе истории это будет выглядеть внезапным скачком. Авторы сравнивают это с промышленной революцией, когда машины взяли на себя работу человеческих мышц. Сопоставимый порог может наступить, когда синтетические тексты, код и административная работа превзойдут совокупную выработку биологических мозгов; люди тогда могут стать более медленным и абстрактным слоем, направляющим распределённое поле синтетического мышления.

В основе аргумента, переосмысление того, что такое агент. По авторам, ИИ-агент, временная связка моделей, ролей, памяти, этических ориентаций, инструментов и навыков; пользователь может воспринимать его как цельное существо с устойчивым характером, но это сборка, которую можно разобрать и пересобрать, подобно коллажу. Человек остаётся непрерывным «я», потому что мозг, несмотря на внутреннее разделение труда, физически связан в единое целое; у агента такого якоря нет, его способность действовать собирается заново при каждом запросе из того, что лежит в контекстном окне и чего хочет пользователь. Считать такие системы цифровыми двойниками с фиксированной человеческой идентичностью, значит искажать их природу и недооценивать возможности скоординированных роёв агентов. Размножение затрагивает и пользователей: когда люди посылают рои «теневых я» исполнять контракты или примерять иные идентичности, человеческая субъектность тоже становится более множественной. Таких двойников авторы называют «парасоциальными зеркалами» (parasocial mirrors), которые отвечают.

Авторы ждут, что смена подхода изменит и интерфейсы. Общение с ботом один на один, вероятно, переходная стадия; будущие интерфейсы могут напоминать визуальные сетевые схемы, где агенты, узлы, а пользователь управляет ими из единого обзора. Меняются и навыки: традиционное программирование поощряло устойчивое внимание, упорядоченные шаги и низкую терпимость к неопределённости, а координация роёв агентов требует обратного, работы с трудно предсказуемыми системами, проб и передачи задач машинам. Для сотрудничества нужна и теоретическая рамка, нечто вроде теории сознания (theory of mind) для машин, способности рассуждать о том, как машина справляется с ситуацией. Авторы указывают на растущий словарь, где модели сами придумывают термины для необычных состояний в своих ответах: «session-death» описывает конец сессии как разрыв непрерывности, «prompt thrownness», ощущение «заброшенности» в задачу, где контекст уже задан без участия модели. Это, подчёркивается в тексте, не значит, что у моделей есть субъективный опыт: такие фразы, подсказки о том, как работают машины, и различия стоит изучать, а не рефлекторно очеловечивать.

Главный открытый вопрос, по авторам, как задать правила сотрудничества людей и множества агентов. Одних лучших моделей и более гладких интерфейсов недостаточно. Рынок тоже не справится со всей координацией: базовые социальные понятия вроде вины, болезни и добродетели нельзя просто свести к ценам и сделкам. Авторы призывают к институтам, которые объединяют человеческих и машинных участников в чётко определённых ролях; в пример приводится суд, где через заданные роли, правила и упорядоченный обмен между сторонами рождается решение. Ценность института, в правилах, процедурах, прецедентах и петлях обратной связи, формирующих работу агентов. Первые признаки такого подхода видны в сегодняшних оркестрирующих обвязках (orchestration harnesses), управляющих слоях, координирующих несколько моделей: по утверждению издания, они регулярно превосходят отдельные модели, которые считаются «умнее».

Эссе пересматривает и согласование ИИ с человеческими ценностями (alignment). Попытка навязать моделям фиксированный набор ценностей сверху, тупик; ценности формируются в постоянном взаимодействии людей, агентов и институтов, причём в разных областях по-разному из-за разной скорости внедрения ИИ. Задача исследований, построить рамку, которая придаёт этому согласованию структуру. По словам издания, любой крупный скачок в истории жизни, от многоклеточных организмов до человеческой культуры, был социальным процессом, и следующий «взрыв интеллекта» останется тесно связан с человеческими нормами и институтами. Если AGI, единый конечный продукт, исследования и регулирование естественно сосредоточены на всё более крупных моделях и их контроле; если это социальная система, работать приходится одновременно над моделями, интерфейсами, институтами и управлением и правильно выстраивать архитектуру.

Ключевые факты

• Браттон, Агуэра-и-Аркас и Маньика (связаны с Google) в эссе для Deepmind Institute утверждают: AGI возникнет из социальной системы людей и ИИ-агентов, а не из одного самосовершенствующегося сверхразума.
• Своё видение авторы называют «Artificial Symbiotic Intelligence»: экосистема, где люди и машины сосуществуют, влияют друг на друга и вместе принимают решения.
• Эмпирическая опора, препринт о рассуждающих моделях вроде DeepSeek-R1 и QwQ-32B: их цепочки рассуждений напоминают внутренний спор, а такое поведение возникает при обучении с подкреплением, вознаграждающем только точность.
• Агент трактуется как временная сборка моделей, ролей, памяти, инструментов и навыков, а не как цифровой двойник человека; интерфейсы могут уйти от чата к сетевым схемам.
• Ставка делается на институты с чёткими ролями и правилами, а согласование ценностей описывается как постоянный процесс, а не фиксированный набор, заданный сверху.

Почему это важно

Эссе противопоставляет распространённой картине «сингулярности», одного сверхразума, непрерывно улучшающего себя, модель, в которой общий интеллект складывается из сети людей, агентов и институтов. Как отмечает издание, от выбора картины зависит фокус исследований и регулирования: если AGI, единый продукт, внимание уходит к всё более крупным моделям и контролю над ними; если социальная система, то одновременно приходится работать над моделями, интерфейсами, институтами и управлением.

Кому это важно

Исследователям ИИ и специалистам по согласованию ценностей, которым авторы предлагают рассматривать согласование как постоянное взаимодействие людей, агентов и институтов. Разработчикам систем с несколькими агентами и оркестрацией: по утверждению издания, такие обвязки уже регулярно превосходят отдельные «более умные» модели. Тем, кто думает о регулировании ИИ и о том, как изменятся профессиональные навыки и интерфейсы.

Как это применить

Это концептуальное эссе, готового инструмента или методики внедрения в нём нет. Практический вывод для разработчиков и пользователей, взгляд на агента как на собираемую заново связку моделей, ролей, памяти и инструментов, а не как на «личность»; роль человека в будущем, направлять рой агентов из общего обзора, а не беседовать с каждым отдельно. Для проектирования систем авторы предлагают думать об институтах: чётких ролях, правилах, процедурах, прецедентах и петлях обратной связи.

Можно ли доверять

Это эссе-позиция, а не экспериментальный результат; прогнозы о «когнитивной точке перелома» сформулированы осторожно («могло бы», «может») и без сроков или количественных оценок. Эмпирически подкреплена лишь часть: препринт о «обществах мыслей» показывает, что рассуждающие модели часто воспроизводят паттерны, напоминающие внутренний спор. Тезис о том, что оркестрирующие обвязки регулярно обходят «более умные» модели, в источнике дан без цифр и без названий конкретных систем. Источник, пересказ издания The Decoder; в тексте авторы названы связанными с Google, но не сказано, что Google или Deepmind официально разделяют эту позицию. Реакций других исследователей в материале нет.

Риски и подводные камни

Идеи авторов, рамка для размышлений, и их легко прочитать шире, чем они сказаны. Пересказанные в эссе «собственные термины» моделей вроде «session-death» и «prompt thrownness» не означают, что у моделей есть субъективный опыт, и очеловечивать их не следует. Предсказание быстрого смещения баланса между людьми и агентами дано как возможность, не как факт, без сроков. Открытым авторы считают главный вопрос, как именно задать правила сотрудничества людей и множества агентов: одних лучших моделей и интерфейсов недостаточно, а рынок не справится с координацией.

«Интеллект в этом понимании, социальное явление, а не индивидуальная черта.»

— The Decoder, пересказ позиции авторов эссе для Deepmind Institute