США отвергли призыв OpenAI и Anthropic к общим стандартам ИИ

На конференции ООН руководители трёх крупных ИИ-компаний публично разошлись во взглядах с администрацией президента США Дональда Трампа на будущее регулирования искусственного интеллекта. Сэм Альтман (OpenAI), Дарио Амодей (Anthropic, главный конкурент OpenAI) и Клеман Деланг (Hugging Face) в своих выступлениях в среду призвали к международной координации и общим стандартам оценки рисков ИИ. Альтман заявил: «Если ИИ должен быть демократичным, важнейшие решения не могут принимать только лаборатории Сан-Франциско», и предложил странам работать вместе ради «общего блага перед лицом мощной новой технологии». Он призвал к «национальным и международным» стандартам измерения возможностей ИИ-инструментов, оценки связанных с ними рисков, средств защиты и степени сохраняющегося человеческого контроля, а также к «быстрым протоколам сообщения об инцидентах, их классификации и отчётности, чтобы мир мог учиться на сбоях до того, как они станут катастрофами». По его словам, «нужны общие стандарты, чтобы страны могли сравнивать данные, проверять соблюдение правил и иметь общий язык и понимание происходящего».

Амодей предупредил, что ИИ «при плохом управлении может стать риском для человечества в целом», и заявил, что дальнейшее развитие технологии требует «ещё более строгих стандартов безопасности»: «Мы будем замедляться настолько, насколько необходимо, чтобы каждая следующая ИИ-технология, которую мы выпускаем, была действительно безопасной. Но независимо от того, что делаем мы, управление этими рисками в конечном счёте больше, чем любая отдельная компания, это задача отраслевого и глобального масштаба». Ранее в этом же месяце Амодей опубликовал эссе с призывом замедлить разработку ИИ, которое одобрили Альтман и другие. Деланг из Hugging Face добавил: «Мировому сообществу нужны более строгие стандарты мониторинга и раскрытия инцидентов».

Однако на той же конференции ООН ключевой технологический советник Трампа Майкл Кратсиос, ранее работавший топ-менеджером Scale AI, отверг идею любого нового регулирования ИИ или создания глобальных структур управления. Он признал, что темпы развития ИИ растут и технология несёт риски, но заявил, что это «не повод приостанавливать разработку или сдерживать её новыми структурами глобального управления». «Международный диалог на этой и других площадках нельзя допускать до сползания к глобальному управлению», добавил Кратсиос. Его слова повторили недавние заявления самого Трампа, который во вторник выступал в ООН и предложил переименовать ИИ в «суперинтеллект», а ранее в этом месяце заявил: «Мы опережаем Китай в области ИИ... и, честно говоря, я хочу, чтобы так и оставалось, потому что тот, кто побеждает в ИИ, побеждает вообще». Трамп резко выступает против любого замедления разработки ИИ, ссылаясь на конкурентное преимущество США в этой сфере.

Все трое руководителей ИИ-компаний базируются в США и напрямую занимаются разработкой технологии. В статье отдельно отмечается, что Hugging Face, площадка для разработчиков ИИ, ранее оказалась в центре внимания после того, как признала факт взлома автономными ИИ-агентами (ботами), созданными в OpenAI; этот взлом в отрасли назвали «тревожным звонком». С тех пор Hugging Face была куплена производителем чипов Nvidia.

Ключевые факты

• На конференции ООН Альтман (OpenAI), Амодей (Anthropic) и Деланг (Hugging Face) призвали к общим международным стандартам оценки рисков ИИ и протоколам отчётности об инцидентах
• Советник Трампа Майкл Кратсиос, бывший топ-менеджер Scale AI, отверг идею нового регулирования ИИ и глобальных структур управления, заявив, что диалог не должен «скатываться к глобальному управлению»
• Трамп ранее заявил в ООН, что хочет переименовать ИИ в «суперинтеллект», и выступает против замедления разработки, ссылаясь на лидерство США над Китаем
• Амодей заявил, что Anthropic будет замедляться настолько, насколько нужно, ради безопасности каждого следующего релиза, и ранее опубликовал эссе с призывом к замедлению отрасли
• В статье упомянуто, что Hugging Face ранее пережила взлом автономными ИИ-агентами из OpenAI и с тех пор была куплена Nvidia

Почему это важно

Это редкий момент публичного расхождения между крупнейшими ИИ-лабораториями и администрацией США по вопросу регулирования: компании, которые сами создают технологию, просят у мира общие правила игры, а власти США считают, что любая форма глобального управления рискует затормозить лидерство страны в гонке с Китаем.

Кому это важно

Тем, кто следит за политикой в сфере ИИ и её международным регулированием: другим правительствам, регуляторам, самим ИИ-компаниям и специалистам по безопасности ИИ, для которых вопрос единых стандартов оценки рисков и отчётности об инцидентах напрямую влияет на то, как будут выявляться и предотвращаться сбои технологии.

Как это применить

Прямого практического действия для пользователей ИИ-продуктов здесь нет, это вопрос государственной политики. Наблюдателям стоит следить, предложат ли OpenAI, Anthropic и Hugging Face собственные добровольные стандарты отчётности об инцидентах в отсутствие межгосударственного соглашения.

Можно ли доверять

Материал BBC приводит прямые цитаты всех участников, Альтмана, Амодея, Деланга, Кратсиоса и Трампа, с чёткой атрибуцией по дням выступлений (вторник для Трампа, среда для остальных). Ответной реакции самих компаний на отказ Кратсиоса в статье не приведено.

Риски и подводные камни

Без согласованных международных стандартов оценки рисков и обмена данными об инцидентах разные страны и компании могут двигаться по разным правилам безопасности, что затрудняет сравнение рисков и координацию при сбоях; при этом сами компании расходятся в оценках, Amodei предлагает добровольное замедление, тогда как позиция администрации США сфокусирована на скорости и конкуренции с Китаем.

«Международный диалог на этой и других площадках нельзя допускать до сползания к глобальному управлению»

— Майкл Кратсиос, технологический советник президента США