Статья предлагает «когнитивного симбионта», ИИ-компаньона, усиливающего интеллект человека

Статья предлагает «когнитивного симбионта», ИИ-компаньона, усиливающего интеллект человека

Авторы статьи отмечают, что последнее десятилетие прогресс в ИИ измеряли тем, сколько машина способна сделать сама. Большие базовые модели уже пишут код и выполняют многошаговые задачи, а персональные агенты действуют от имени человека. Но люди по-прежнему забывают то, что знали, не замечают того, на что не смотрят, не находят нужных слов и принимают трудные решения без опоры на собственную историю, потому что машина, которая могла бы помочь, стоит вне ситуации.

По мнению авторов, с выходом ИИ в физический мир внимание сосредоточилось на одном типе «интеллектуального индивида», воплощённом роботе. Они утверждают, что у эпохи физического ИИ (Physical AI) есть второй, не менее важный тип: человек, усиленный ИИ. Рядом с общим искусственным интеллектом (AGI), который спрашивает, насколько интеллектуальной может быть машина, они ставят усиленный ИИ человеческий интеллект (AHI), который спрашивает, сколько интеллекта машина может дать конкретному человеку.

Для этого, по их словам, нужна система нового типа, когнитивный симбионт: пожизненный, встроенный, работающий в реальном времени, приватный, не создающий лишних неудобств и проактивный компаньон. Он воспринимает то, что воспринимает человек, через внешние устройства; хранит контекст человека годами; моделирует его ситуацию и его мышление; в нужный момент участвует в размышлении; выполняет повседневные задачи с учётом контекста; и продолжает «изучать» человека, пока меняются и он, и сам человек.

Концептуальным ядром парадигмы авторы называют когнитивный разрыв, расстояние между тем, что человек мог бы привнести в ситуацию, и тем, что он способен удержать в рабочей памяти. Пространство проектирования они организуют как «петлю симбиоза»: восприятие, хранение, понимание, жизнь рядом, действие за человека и мышление вместе с ним, рост. Всё это заключено в персональную среду исполнения (personal runtime) и обрамлено доверием.

Отдельно подчёркнуто, что симбионт меняет то, что человек может делать на глазах у других, поэтому возникают риски нового рода, от скрытой помощи на экзаменах до давления на всех, чтобы они тоже его завели. Управление этими рисками авторы считают частью самой парадигмы. Это концептуальная позиция: реализации, экспериментов или оценок в тексте нет.

Ключевые факты

  • Авторы предлагают наряду с AGI (вопрос «насколько умна машина») ставить цель AHI, усиленный ИИ интеллект человека («сколько интеллекта машина даёт конкретному человеку»).
  • Для этого описан когнитивный симбионт: пожизненный, встроенный, приватный, проактивный компаньон, который воспринимает то же, что и человек, через внешние устройства и хранит его контекст годами.
  • Концептуальное ядро, когнитивный разрыв между тем, что человек мог бы привнести в ситуацию, и тем, что удерживает его рабочая память.
  • Пространство проектирования, «петля симбиоза»: восприятие, хранение, понимание, жизнь рядом, действие и мышление вместе с человеком, рост; всё внутри персональной среды исполнения и доверия.
  • Названы новые риски, от скрытой помощи на экзаменах до давления на всех принять технологию; управление ими авторы включают в парадигму.

Почему это важно

Статья смещает вопрос с автономности машины на то, какой интеллект ИИ может дать конкретному человеку. Авторы исходят из того, что агенты и модели уже действуют самостоятельно, но остаются снаружи ситуации человека, и предлагают считать усиление самого человека второй целью рядом с AGI.

Кому это важно

Тем, кто занимается персональными ИИ-ассистентами и агентами, носимыми и внешними устройствами, памятью и контекстом пользователя, а также тем, кто думает о регулировании и этике таких систем: авторы прямо выносят вопросы управления рисками в саму парадигму.

Как это применить

Практических инструкций в тексте нет. Это рамка для проектирования: «петля симбиоза» из шагов восприятия, хранения, понимания, жизни рядом, действия и мышления вместе с человеком и роста, внутри персональной среды исполнения и доверия. Её можно использовать как список вопросов к собственной системе персонального ИИ.

Можно ли доверять

Это позиционная, концептуальная работа: реализация, прототип, эксперименты и оценки в тексте не описаны, авторы и организации не названы. Утверждения о нехватке помощи «извне ситуации» и о ценности симбионта, тезисы авторов, а не доказанные результаты. Оценку нужно строить на логике аргументов.

Риски и подводные камни

Сами авторы указывают на риски нового рода: симбионт меняет то, что человек может делать при других людях, от скрытой помощи на экзаменах до давления на всех принять такую систему. Конкретные меры управления в тексте не описаны, только заявление, что оно входит в парадигму. Кроме того, постоянное восприятие и хранение контекста годами делает критичными требования приватности, которые сами авторы включают в описание системы.

«Наряду с общим искусственным интеллектом, который спрашивает, насколько интеллектуальной может быть машина, стоит усиленный ИИ интеллект человека (AHI), который спрашивает, сколько интеллекта машина может дать конкретному человеку.»

— Из аннотации статьи