Wired: чиновники США не ждут прогресса по ИИ от встречи Трампа с Си Цзиньпином

Wired: чиновники США не ждут прогресса по ИИ от встречи Трампа с Си Цзиньпином

Накануне встречи президента Дональда Трампа с Си Цзиньпином, назначенной на четверг, чиновники администрации в частных разговорах говорят рассылке Inner Loop (автор, Хьюго Лоуэлл, издание Wired), что видят мало возможностей для прогресса по вопросам безопасности ИИ и шпионажа. Имена чиновников в материале не названы.

По словам чиновников, Трамп, уезжая из Белого дома, оставил открытым вопрос, будет ли он давить на Си из-за китайского вмешательства в сферу ИИ или скандала вокруг Nvidia: это часть усилий не раздражать Китай во время саммита. Последствия романа бывшего главы Nvidia Дженсена Хуанга с Элис Хуан (в тексте, руководитель в Megaspeed и подозреваемый агент китайской разведки) сделали любые переговоры о развитии ИИ непростыми для двух крупнейших экономик мира. Китай резко отверг обвинения в том, что Элис Хуан была завербована китайской разведкой, назвав их «необоснованными» и «клеветой».

В сентябре администрация Трампа решила создать горячую линию по ИИ-инцидентам между министром финансов Скоттом Бессентом и вице-премьером КНР Хэ Лифэном, как раз на подобные случаи. Но, как пишет Wired, канал связи остаётся на стадии концепции и не работает. Госсекретарь Марко Рубио на прошлой неделе заявил журналистам, что с момента объявления о горячей линии США и Китай вели переговоры по безопасности ИИ «на техническом уровне», но признал, что это «всё ещё работа в процессе». Чиновники администрации ранее обсуждали рамочный документ: критерии, когда каждая страна обязана предупредить другую, и меры принуждения к исполнению, чтобы предупреждать не приходилось только США в адрес Китая.

Одна из причин отсутствия прогресса, по словам чиновников, разное понимание главных рисков ИИ и разные стимулы публиковать сведения об инцидентах. В США чиновники администрации и руководители техкомпаний больше всего опасаются автономных и рассогласованных моделей, которые могут действовать за пределами человеческого контроля. В Китае, как широко считается, власти сильнее обеспокоены тем, что продвинутые модели с открытыми весами будут использоваться критиками и диссидентами внутри страны против Коммунистической партии Китая. Кроме того, китайское правительство, по словам чиновников, проявляло интерес к использованию передовых ИИ-моделей для сбора разведданных внутри страны и за рубежом и вряд ли сообщало бы о ситуациях, когда его модели вышли из-под контроля.

Взаимные подозрения в шпионаже усугубили недоверие в ИИ-переговорах; по словам чиновников, Китай и раньше, ещё до скандала с Nvidia, считал, что США пытаются затормозить его развитие в области ИИ.

При этом, хотя Трамп стремится к более дружественным экономическим отношениям с Китаем, на этой неделе администрация объявила, что продвигает новое правило, ограничивающее возможность Китая удалённо получать доступ к американским ИИ-чипам в зарубежных дата-центрах. Wired называет это прямым вмешательством Трампа в ответ на предполагаемую роль Megaspeed в скандале и критику того, что связанная с Китаем фирма получила доступ к передовым чипам. По ранее опубликованным данным Wired, правило может также помешать вести дела с Nvidia похожим компаниям, чьи материнские структуры находятся в Китае.

Ключевые факты

  • Анонимные чиновники администрации Трампа говорят рассылке Inner Loop (Wired), что видят мало возможностей для прогресса по безопасности ИИ и шпионажу на встрече с Си Цзиньпином в четверг.
  • Горячая линия по ИИ-инцидентам между Скоттом Бессентом и Хэ Лифэном, объявленная в сентябре, остаётся на стадии концепции и не работает; Рубио назвал её «всё ещё работой в процессе».
  • Стороны по-разному видят главные риски: США опасаются автономных и рассогласованных моделей, а Китай, по словам чиновников, открытых моделей в руках критиков и диссидентов.
  • Скандал вокруг Nvidia и Megaspeed осложнил переговоры; Китай назвал обвинения против Элис Хуан «необоснованными» и «клеветой».
  • На этой неделе администрация объявила о новом правиле, ограничивающем удалённый доступ Китая к американским ИИ-чипам в зарубежных дата-центрах.

Почему это важно

Встреча лидеров двух крупнейших экономик, редкая возможность договориться о правилах безопасности ИИ, и именно её чиновники администрации, по данным Wired, оценивают скептически. Единственный названный механизм, горячая линия по ИИ-инцидентам, пока существует только на уровне идеи. Материал показывает, что препятствия не только технические: стороны по-разному понимают, что считать главным риском ИИ, и по-разному относятся к публичности инцидентов.

Кому это важно

Тем, кто следит за американо-китайским соперничеством в сфере ИИ и экспортным контролем на чипы; компаниям, зависящим от поставок ускорителей Nvidia и от облачных дата-центров за рубежом; специалистам по безопасности ИИ, которым интересно, возможно ли международное согласование правил сообщения об инцидентах.

Как это применить

Практического инструмента в материале нет. Полезно отслеживать два сюжета: итоги встречи Трампа и Си по теме ИИ и дальнейшую судьбу нового правила об удалённом доступе к американским ИИ-чипам в зарубежных дата-центрах. Сроков вступления правила в силу и подробностей в источнике нет, поэтому планировать на его основе пока нельзя.

Можно ли доверять

Это выпуск авторской рассылки Inner Loop Хьюго Лоуэлла в Wired, а не отдельное расследование. Ключевые оценки опираются на неназванных чиновников («officials say»), документов или публичных заявлений в подтверждение скептицизма нет. Прямыми цитатами подтверждено лишь высказывание Рубио о «техническом уровне» переговоров и о горячей линии как «работе в процессе». Утверждения о намерениях Китая, это оценки американских чиновников, а не позиция Пекина; китайская сторона в материале названа лишь в связи с отрицанием обвинений против Элис Хуан.

Риски и подводные камни

Источник не сообщает, поднимет ли Трамп с Си тему ИИ или скандала вокруг Nvidia, не говорит, когда и будет ли запущена горячая линия, и не раскрывает, в чём состоит скандал, кроме предполагаемой роли Megaspeed и доступа связанной с Китаем фирмы к передовым чипам. Реакция Китая на новое правило о чипах не приводится. Сведения о связях Элис Хуан с китайской разведкой названы подозрением, Китай их отвергает. Оценки взглядов китайских властей даны со слов американских чиновников и могут отражать их интересы.

«Всё ещё работа в процессе.»

— Марко Рубио, госсекретарь США, о горячей линии по ИИ-инцидентам (в пересказе Wired)