Anthropic предложила Китаю совместно притормозить гонку ИИ, Пекин отказался

Дарио Амодеи, глава Anthropic, опубликовал в субботу пост «We Must Pace the Frontier» («Мы должны сдерживать темп фронтира»), в котором заявил: «Глобальное сдерживание темпов потребует сотрудничества с Китаем, авторитарной страной, обладающей на сегодня самыми продвинутыми возможностями в ИИ». По его словам, ключевая часть стратегии замедления, сохранение США и другими демократиями «максимально большого» отрыва в развитии ИИ от автократий вроде Китая; для этого он призвал бороться с контрабандой чипов и не допускать несанкционированную дистилляцию моделей китайскими компаниями. Логику Амодеи о том, что ослабление ИИ-индустрии Китая якобы повысит шансы на будущее соглашение, статья называет труднообъяснимой; сам Амодеи позже в телеинтервью признал, что «понятия не имеет, как вести переговоры с Китаем».

Китайские чиновники, исследователи и представители индустрии восприняли предложение скептически, не потому, что отрицают риски ИИ, а потому, что считают сделку невыгодной. Гуо Цзякунь, представитель МИД КНР, на пресс-конференции в понедельник назвал предложение «нагнетанием страха, конфронтацией и злонамеренной конкуренцией», мешающей глобальному сотрудничеству по ИИ; на следующий день министерство добавило, что «Китай уделяет равное внимание развитию и безопасности в сфере ИИ». Кевин Сюй, основатель хедж-фонда Interconnected Capital и бывший сотрудник Белого дома при Бараке Обаме, говорит, что сообщество безопасности ИИ в Китае растёт и разделяет многие опасения американских лабораторий, но «пропасть, между видением Anthropic, которое сперва хочет подчинить и ограничить Китай ради максимального рычага, и Китаем, готовым говорить только на равных». Элвин Ван Грейлин из Asia Society Policy Institute отмечает, что эссе Амодеи прямо увязывает сдерживание темпов с наращиванием отрыва от Китая, из-за чего предложение выглядит для китайских читателей неискренним.

Мишель Ни из Center for a New American Security объясняет скепсис Пекина структурно: китайское руководство сомневается в достижимости AGI и в самом нарративе экстремальных рисков ИИ, а больше всего опасается не гипотетического захвата власти машинами, а угрозы социальной стабильности и власти Компартии. По её словам, китайские политики склонны считать призывы американских компаний к безопасности инструментальными, попыткой раздуть собственную оценку перед IPO или притормозить конкурентов, которыми на этом этапе оказываются в основном китайские компании. В недавнем эссе министр госбезопасности Китая Чэнь Исинь предупредил, что ИИ может подпитывать политическую дезинформацию, кибератаки, шпионаж, социальные волнения и новые военные угрозы, но почти не касался сценариев судного дня, которыми занята риторика американских лабораторий фронтира.

Скепсис разделяют и в самой китайской ИИ-индустрии, которая в целом делает ставку на дешёвые открытые модели. В широко разошедшемся эссе, опубликованном в воскресенье, неназванный исследователь DeepSeek написал, что видит для человечества два исхода: либо мощный ИИ становится широко доступен и поднимает уровень жизни, либо горстка техкомпаний контролирует самые продвинутые системы и ресурсы при них, ещё больше отрывая всех остальных. «Именно поэтому я по-прежнему считаю, что самый продвинутый интеллект должен быть доступен всем, открыто и недорого, написал он., Я не доверяю Anthropic или OpenAI в этом. И я особенно не хочу, чтобы Anthropic контролировала самый продвинутый искусственный интеллект или AGI».

При этом статья подчёркивает, что сотрудничество США и Китая по безопасности ИИ не обречено: по имеющимся данным, предварительные переговоры между странами уже идут в преддверии запланированного на этот месяц визита лидера Китая Си Цзиньпина в Вашингтон на встречу с президентом США Дональдом Трампом. Обе стороны выражали озабоченность одними и теми же угрозами, киберугрозами, злоупотреблением мощными моделями, непредсказуемым поведением всё более способных систем, и, по словам Ни, у людей по обе стороны есть искренний интерес к безопасности ИИ и шанс на добросовестный диалог по узким темам; ключевым может стать создание надёжного способа взаимной проверки обязательств. Но Кристи Лоук из некоммерческой организации MATS Research предупреждает, что риторика Амодеи и других американских лидеров об ослаблении Китая рискует подорвать хрупкое доверие, на котором держатся дипломатические переговоры: «Дарио подрывает один из немногих доступных рычагов снижения тех самых рисков, которые он якобы принимает всерьёз».

Ключевые факты

Гендиректор Anthropic Дарио Амодеи в посте «We Must Pace the Frontier» призвал США и Китай вместе замедлить гонку ИИ, но при этом сохранить за демократиями «максимально большой» технологический отрыв от Китая.
Представитель МИД КНР Гуо Цзякунь назвал предложение «нагнетанием страха, конфронтацией и злонамеренной конкуренцией»; на следующий день МИД добавил, что Китай уделяет равное внимание развитию и безопасности ИИ.
Аналитики (Кевин Сюй, Элвин Ван Грейлин) считают предложение неравноправным: Амодеи увязывает сдерживание темпов с предварительным наращиванием отрыва США, что для Пекина выглядит требованием подчинения, а не переговоров на равных.
Неназванный исследователь DeepSeek в отдельном эссе заявил, что не доверяет Anthropic и OpenAI контроль над самым продвинутым ИИ или AGI, и выступил за открытые и дешёвые модели.
По данным статьи, предварительные переговоры США и Китая по безопасности ИИ уже идут перед визитом Си Цзиньпина в Вашингтон к Дональду Трампу в этом месяце.

Почему это важно

Риторика Кремниевой долины о гонке ИИ с Китаем за последнюю неделю резко сменилась: те же руководители, что годами говорили об опасности отстать, вдруг заговорили о необходимости совместного замедления. Материал показывает, что предложение Амодеи упирается не в технику, а в геополитику: американская сторона подаёт безопасность ИИ как экзистенциальный риск для человечества, китайская, как риск для социальной стабильности и власти партии, и предложение сдерживать темпы, обусловленное сохранением отрыва США, читается в Пекине не как приглашение к диалогу, а как требование подчиниться сначала.

Кому это важно

Тем, кто следит за политикой безопасности ИИ и отношениями США и Китая: аналитикам и дипломатам, готовящим визит Си Цзиньпина в Вашингтон; специалистам в самих лабораториях (Anthropic, OpenAI, DeepSeek), чьи мотивы теперь публично ставятся под сомнение; инвесторам, которые слышат в китайской реакции сигнал о том, что глобального регулирования ИИ по американским правилам ждать не стоит.

Как это применить

Материал даёт готовый набор аргументов для разбора любых будущих заявлений о «сотрудничестве по ИИ-безопасности» между конкурирующими державами: проверять, обусловлено ли предложение односторонними уступками одной из сторон, и отличать риторику экзистенциального риска от реальных, совместимых интересов сторон (кибербезопасность, злоупотребление моделями), по которым переговоры действительно возможны. Ближайшая проверка тезисов статьи, итоги визита Си Цзиньпина в Вашингтон в этом же месяце.

Можно ли доверять

Материал Wired опирается на прямые цитаты из блог-поста и телеинтервью самого Амодеи, официальные заявления представителя МИД КНР на пресс-конференции и высказывания нескольких названных экспертов (Кевин Сюй, Элвин Ван Грейлин, Мишель Ни, Кристи Лоук) с указанием их должностей. Единственное слабое место, эссе исследователя DeepSeek приводится по пересказу без имени автора, так что цитаты из него проверить самостоятельно нельзя.

Риски и подводные камни

Главный риск, на который указывает сама статья: риторика об ослаблении Китая может подорвать то самое хрупкое доверие, без которого реальные переговоры по безопасности ИИ невозможны, на это прямо указывает исследователь MATS Research Кристи Лоук. Китайская сторона также интерпретирует призывы к безопасности как инструментальные, попытку поднять оценку компаний перед IPO или притормозить конкурентов, а не как искреннюю заботу о рисках, что делает любое будущее соглашение хрупким уже на старте.

«Понятия не имею, как вести переговоры с Китаем»

— Дарио Амодеи, гендиректор Anthropic