RAND предлагает США стратегию «свободы действий» к сверхразуму

Аналитический центр RAND опубликовал доклад «A U.S. Strategy to Secure Geopolitical Advantage on an Uncertain Path to Superintelligence», в котором предлагает США придерживаться стратегии «свободы действий» (Freedom of Action), сохранять максимум вариантов на неопределённом пути к сверхразуму, а не делать ставку на одну развилку. Цель стратегии в формулировке доклада, сохранить и укрепить способность обеспечить геополитическое преимущество США и гарантировать выживание человечества с сохранением его субъектности на переходе к сверхразуму.

У стратегии четыре ключевых компонента: выстроить экосистему «человек, ИИ» (инвестиции в безопасность ИИ, сохранение человеческой субъектности, распределение выгод технологии, подготовка общества к вызванным ИИ потрясениям); выстроить архитектуру безопасности ИИ (инструменты для понимания состояния систем внутри страны и за рубежом, включая видимость вычислительных мощностей, технологии проверки соглашений, регуляторную экспертизу); адаптировать существующие институты нацбезопасности под эпоху ИИ; инвестировать в способность граждан, компаний и правительств реагировать на изменения. Доклад также описывает семь архетипических стратегий в трёх семьях: «сосуществование» (доминирование США, совместная разработка с Китаем под общим управлением или мягкая координация в духе готовности), «отказ» (мораторий, проверяемая глобальная остановка разработок выше определённых порогов; сдерживание, остановка собственных разработок США при готовности уничтожать чужие программы; «продолжение общества», распределённые самодостаточные поселения на случай провала всех превентивных мер) и «ускорение» (ставка на рынки и конкуренцию как источник безопасности). Выбор между ними, по RAND, зависит от пяти неопределённостей: насколько близка опасность, возможно ли устойчивое сосуществование людей и ИИ, реализуемо ли сдерживание разработок в принципе, может ли один игрок добиться решающего превосходства и поддаются ли подавлению чужие программы.

Второй материал выпуска, исследование, опубликованное в Nature: учёные вырастили мышей с частично человеческой мозговой тканью. Авторы истощили у новорождённых мышей глутаматергические нейроны неокортекса и гиппокампа, получив так называемых «апаллиальных» мышей, а затем вживили в освободившуюся полость коры человеческие кортикальные органоиды, выращенные из стволовых клеток, так получились «ксенокортикальные» мыши (XCX). По данным авторов, человеческие корковые нейроны интегрировались с нервной системой мыши, а прижизненная кальциевая визуализация и электрофизиология показали упорядоченную активность, характерную для формирующихся нейронных цепей. Поведение животных оценивали технологией автоматического анализа движений (MoSeq): у ксенокортикальных мышей поведенческий репертуар оказался промежуточным между контрольными и апаллиальными мышами, но отличался от обоих. В тесте на лабиринт, где нужно удерживать в памяти уже исследованные участки, контрольные и ксенокортикальные мыши показывали результат выше случайного уровня, а апаллиальные, нет: это говорит о том, что пересаженная человеческая ткань способна выполнять часть функций памяти.

Третий материал посвящён формирующейся исследовательской повестке по «темпу» развития ИИ, управляемому замедлению, а не полной остановке. Статью на эту тему подготовила группа организаций: ACS Research, Университет Торонто, Arb Research, Paradigm 3 Institute, Уортонская школа Пенсильванского университета, Goodheart Labs, Trajectory Institute, Гарвардский университет и Кембриджский университет. Авторы перечисляют аргументы против сдерживания темпа (оно откладывает выгоды вроде прорывов в здравоохранении, может усилить концентрацию власти, создать ложное чувство безопасности и «навес» дешевеющих вычислительных мощностей, а раннее сдерживание менее эффективно позднего и трудно обратимо) и аргументы за него (даёт время на подготовку к киберугрозам и биориску, помогает справиться с непредсказуемостью прогресса ИИ, предотвращает ситуации, где правительства передают военные решения системам ИИ себе в убыток). Отдельно отмечено, что больше всего стимулов ускоряться и больше всего терять от замедления, у инфраструктурных игроков, прежде всего производителей полупроводников и облачных провайдеров, поэтому в части случаев потребуется не добровольное, а скоординированное сдерживание. Доступный фрагмент материала обрывается на этом месте.

Ключевые факты

RAND предлагает США стратегию «свободы действий»: сохранять варианты на неопределённом пути к сверхразуму вместо ставки на одну линию; доклад описывает 4 компонента стратегии, 7 архетипических стратегий в 3 семьях и 5 ключевых неопределённостей, от которых зависит выбор.
В статье в Nature учёные вырастили «ксенокортикальных» мышей с человеческими корковыми нейронами из стволовых клеток; в тесте на память такие мыши, как и контрольные, показали результат выше случайного, а мыши без человеческой ткани, нет.
Девять организаций (включая Гарвард, Кембридж и Уортонскую школу) предложили исследовательскую повестку по управляемому «темпу» развития ИИ, взвесив аргументы за и против искусственного замедления прогресса.
Наибольшие стимулы ускорять развитие ИИ, у производителей чипов и облачных провайдеров, поэтому эффективное сдерживание потребует скоординированных, а не добровольных мер.
Материал, дайджест из выпуска №473 рассылки Import AI; заявленная в заголовке выпуска тема «машинной герменевтики» в доступном тексте не раскрыта, фрагмент обрывается раньше.

Почему это важно

Все три материала предлагают новый взгляд на то, как управлять развитием мощного ИИ: RAND формализует стратегический выбор США на государственном уровне, исследование в Nature даёт инструмент для изучения человеческого мозга на модели мыши, а работа о «темпе» ИИ закладывает основу для дисциплины, которой пока фактически нет, управляемого замедления вместо полной остановки разработок.

Кому это важно

Политикам и специалистам по национальной безопасности США, формирующим стратегию в отношении передового ИИ; нейробиологам и разработчикам лекарств, которым нужны более точные животные модели человеческого мозга; исследователям политики в сфере ИИ, которые ищут промежуточный путь между гонкой разработок и полной их остановкой.

Как это применить

Доклад RAND можно использовать как рамку для оценки собственной ИИ-стратегии через пять описанных в нём неопределённостей; исследование о ксенокортикальных мышах даёт лабораториям потенциальную модельную систему для доклинического тестирования терапий, воздействующих на человеческий мозг; повестка по темпу ИИ даёт организациям, занятым политикой в сфере ИИ, готовый список аргументов «за» и «против» замедления как отправную точку для собственного анализа.

Можно ли доверять

Текст приводит прямые цитаты из докладов и называет конкретные институции-авторы каждой работы, что повышает проверяемость. При этом доступный фрагмент рассылки обрывается на середине предложения в разделе про темп ИИ, а заявленная в заголовке выпуска тема «машинной герменевтики» в тексте вообще не раскрыта, судить о ней нельзя.

Риски и подводные камни

Доклад RAND не даёт готового ответа, какая из семи стратегий верна: выбор зависит от пяти неопределённостей, которые сами по себе не разрешены. Исследование на мышах поднимает этические вопросы о границах экспериментов с человеческой тканью в живых организмах, в материале они обозначены, но не закрыты. Повестка по темпу ИИ сама признаёт риск: попытка притормозить развитие может создать ложное чувство безопасности и «навес» дешевеющих вычислений, а отменить решение о замедлении задним числом (по аналогии с ядерной энергетикой) практически невозможно.

«Мир в любом случае будет задавать темп прогрессу ИИ. Без более совершенных инструментов это может происходить хаотично, через импровизированные реакции, подогнанные под прежние ожидания, так, что реальные риски останутся неустранёнными, а институты переживут свою полезность. Мы надеемся, что при должных исследованиях управление темпом станет более взвешенным, точным, соразмерным, решительным и легитимным.»

— исследователи, авторы статьи о «темпе» развития ИИ (Import AI 473)