Лидеры Google, OpenAI, Anthropic, Meta, xAI и Nvidia подписали с Трампом «морально обязывающее» обещание по безопасности ИИ

После обеда с лидерами крупных технологических компаний, прошедшего во вторник, президент США Дональд Трамп ответил на вопросы журналистов о своих заявлениях по искусственному интеллекту. Он сказал, что его прежние слова о том, что страхи вокруг безопасности ИИ, «обман» («hoax»), придуманный демократами, больше не действуют, поскольку теперь он называет технологию «Super Intelligence» («сверхинтеллект»). Опасения, что государство недостаточно ограничивает ИИ, он отмёл: американские компании, по его словам, «доминируют над Китаем».

Вместо федерального регулирования, пишет The Verge, у Трампа теперь «умнейшие люди в мире, наблюдающие друг за другом». Речь о Сундаре Пичаи (Google), Дарио Амодеи (Anthropic), Марке Цукерберге (Meta), Греге Брокмане (OpenAI), Илоне Маске (xAI) и Дженсене Хуанге (Nvidia). Они подписали Joint Commitment On Frontier Responsibilities, «морально обязывающее» обещание по безопасности. По описанию издания, оно требует от компаний саморегулирования своих ИИ-технологий по «здравым» руководящим принципам и, судя по всему, не предусматривает последствий за нарушение соглашения. Текст документа издание не приводит, конкретные обязательства и механизм проверки не описывает.

Все шесть подписантов по просьбе Трампа выступили перед прессой. По оценке издания, они хвалили планы самоконтроля как шаг к развитию ИИ, созданию рабочих мест и рассеиванию негативного общественного мнения вокруг безопасности ИИ.

Цукерберг назвал подписанное «соглашением Белого дома о безопасной разработке технологии»: идея в том, чтобы дать американцам и клиентам уверенность, что технология работает так, как задумано. По его словам, это не единственное, что компании будут делать, а начало и соглашение, к которому может присоединиться вся отрасль; он сказал, что ничего подобного раньше не было, и назвал это значимым шагом вперёд.

Брокман заявил, что OpenAI создаёт ИИ на благо всех, и указал на расцвет малого бизнеса, научные открытия и разработку лекарств. Важно, по его словам, что под руководством Трампа все объединились, чтобы договориться о безопасном движении вперёд.

Хуанг назвал происходящее крупнейшей промышленной революцией в истории и крупнейшим строительством инфраструктуры в истории человечества, которое, по его словам, создаёт миллион рабочих мест в США (утверждение Хуанга, издание его не проверяет). Он подчеркнул, что между инновациями, технологиями и безопасностью нет конфликта: отрасль разрабатывает и новые возможности ИИ, и новые технологии для его безопасности.

Пичаи назвал момент историческим и значимым, сослался на рост ВВП и сказал, что президент попросил отрасль «подтянуться», а компании хотят выпускать продукты безопасно. Автор материала отдельно отмечает: Трамп представил Хуанга как «очень красивого парня», а приглашая к слову Пичаи, сказал журналистам, что те «понятия не имеют, кто, чёрт возьми, эти люди, этот парень монстр, и никто не знает. Какая прекрасная жизнь». Пичаи, по впечатлению автора, не выглядел веселящимся, хотя неловко рассмеялся.

Маск заговорил о пользе ИИ и наиболее вероятном, по его мнению, исходе, эре изобилия, где будет не просто базовый, а «универсальный высокий доход». С роботами и сверхинтеллектом, сказал он, у каждого в мире может быть медицинская помощь лучше, чем у кого-либо из присутствующих. Журналист возразил: «Не если у них нет работы». Маск ответил, что работы изменятся, как менялись всегда: раньше «вычислителем» была профессия, были здания, полные людей, считавших вручную, и никто не хочет возвращаться к этому; он ожидает эволюции ролей.

Амодеи сказал, что у ИИ огромные преимущества, в том числе в медицине, и, как говорил президент, «кто победит в ИИ, тот и победит». Но у технологии, по его словам, есть вполне реальные риски, а механизм их устранения ещё обсуждается. Всем нужно работать вместе, чтобы победить, и победить безопасно.

Ключевые факты

Joint Commitment On Frontier Responsibilities подписали Пичаи (Google), Амодеи (Anthropic), Цукерберг (Meta), Брокман (OpenAI), Маск (xAI) и Хуанг (Nvidia); документ описан как «морально обязывающее» обещание по безопасности ИИ.
По описанию The Verge, обещание предполагает саморегулирование по «здравым» руководящим принципам и, судя по всему, не предусматривает последствий за нарушение; текст документа издание не цитирует.
Трамп заявил, что прежние слова о «обмане» с безопасностью ИИ больше не действуют, раз технология теперь названа «Super Intelligence», а недостаток госконтроля отмёл тем, что американские компании «доминируют над Китаем».
Все шесть подписантов выступили перед прессой по просьбе Трампа: Цукерберг назвал это началом отраслевого соглашения, Хуанг говорил о миллионе рабочих мест (его слова, не проверены), Амодеи отметил, что механизм работы с рисками ещё обсуждается.
Маск предсказал «универсальный высокий доход»; на возражение журналиста про отсутствие работы ответил, что работы меняются, как менялись всегда.

Почему это важно

Вместо федеральных правил по ИИ в США появилось добровольное обязательство, которое подписали руководители Google, Anthropic, Meta, OpenAI, xAI и Nvidia. По описанию The Verge, оно не предусматривает последствий за нарушение, поэтому вопрос в том, заменит ли самоконтроль закон. Заметен и поворот в риторике: Трамп, прежде называвший страхи о безопасности ИИ «обманом» демократов, теперь ссылается на новое название технологии, «Super Intelligence».

Кому это важно

Компаниям-подписантам и их конкурентам, которые могут присоединиться к «соглашению всей отрасли», о котором говорил Цукерберг. Тем, кто следит за регулированием ИИ в США: на этом этапе ставка сделана на добровольные обязательства, а не на обязательные нормы. Также читателям, интересующимся влиянием ИИ на рынок труда: Хуанг и Маск затронули тему рабочих мест.

Как это применить

Практического инструмента здесь нет: это обязательство, а не продукт или правило с понятными процедурами. Следить стоит за тем, опубликуют ли полный текст Joint Commitment On Frontier Responsibilities, появятся ли в нём проверяемые требования и присоединятся ли другие компании. Сейчас эти сведения в материале не приведены.

Можно ли доверять

Материал The Verge, пересказ выступлений и комментарий. Цитаты руководителей приведены дословно, но часть оценок принадлежит автору: слова «судя по всему, без последствий», его осторожная трактовка, а не описание механизма из самого документа. Сам текст соглашения в материале не процитирован. Заявление Хуанга о миллионе рабочих мест и слова Пичаи о росте ВВП издание не проверяет. Точная дата указана только как «вторник».

Риски и подводные камни

Главный риск, разрыв между громкими заявлениями и отсутствием описанных последствий за нарушение: «морально обязывающее» обещание не равно юридическому. Подписанты выступали по просьбе Трампа и хвалили план, а реакции критиков, законодателей и исследователей безопасности в материал не вошли, поэтому картина односторонняя. Амодеи сам отметил, что механизм работы с рисками ещё обсуждается. Кроме того, автор пишет о тоне заявлений и эпизодах неловкости, которые отражают его впечатление, а не факты о содержании обязательства.

«Не думаю, что раньше было что-то подобное, и считаю, что это значимый шаг вперёд.»

— Марк Цукерберг, Meta

Компания Meta Platforms признана экстремистской организацией, её деятельность на территории РФ запрещена.