ИИтог

OpenAI и Anthropic зовут регулировать ИИ, Meta и Трамп против

бизнесРедакция ИИтогThe Verge🔥66Рейтинг ИИтог66Влияние60Новизна50Релевантность80Неожиданность65Участники80Достоверность80
OpenAI и Anthropic зовут регулировать ИИ, Meta и Трамп против

В начале недели казалось, что верхушка ИИ-индустрии, пусть и с оговорками, сошлась на идее регулирования. На выходных глава Anthropic Дарио Амодей предложил план из трёх шагов для замедления разработки ИИ: встроить в лаборатории независимых внешних инспекторов, наладить координацию внутри отрасли в США и добиваться международных соглашений, возможно, при участии государства. Глава OpenAI Сэм Альтман, сооснователь Google DeepMind Демис Хассабис и даже глава SpaceX Илон Маск публично выразили согласие с отдельными частями этого плана. Anthropic и OpenAI и раньше намекали, что вместе с другими лабораториями работают над общей отраслевой рамкой правил; выглядеть сторонниками регулирования было выгодно и с точки зрения пиара, и как способ смягчить последствия участившихся тревожных инцидентов со взломами.

Но согласие быстро развалилось. Глава Meta Марк Цукерберг выступил против ограничения самостоятельности компаний, а газета The Wall Street Journal сообщила, что Цукерберг, Маск и глава Nvidia Дженсен Хуанг сорвали планы по созданию независимого регулятора для ИИ-отрасли, финансируемого самой отраслью, по образцу FINRA (Financial Industry Regulatory Authority), частной некоммерческой саморегулируемой организации в финансовой сфере США. Администрация Трампа тем временем назвала саму идею кризиса безопасности в сфере ИИ «обманом». При этом часть отрасли, включая OpenAI, от идеи регулирования не отказалась.

Крис Лихэйн, директор OpenAI по глобальной политике, заявил изданию The Verge, что люди хотят быть уверены в безопасной разработке ИИ, что начинается с шагов самих компаний, но у государства тоже есть важная роль, и что сейчас есть окно возможностей для политики с растущей двухпартийной поддержкой обязательных национальных стандартов безопасности для передовых ИИ-моделей. Анонимный венчурный инвестор в сфере ИИ (попросивший об анонимности из-за текущих инвестиций) согласился, что регулирование необходимо, сравнив нынешний момент с ранними этапами развития электричества, автомобилей и авиации, когда отрасли пришлось выработать общее понимание безопасности. Anthropic от комментариев отказалась, но в своём эссе Амодей написал, что компания всегда выступала за взвешенное регулирование ИИ, даже когда её за это обвиняют в нагнетании шумихи, «думеризме» или стремлении подмять регулятора под себя. Safe Superintelligence, SpaceX и Google не ответили на запрос комментария, Thinking Machines Lab отказалась комментировать, а Meta сослалась на пост Цукерберга в X, где тот написал, что каждая лаборатория сама несёт ответственность и имеет стимул и возможность разрабатывать модели безопасно, без внешнего контроля.

Позиция Цукерберга созвучна нынешним заявлениям Трампа. Президент на прошлой неделе назвал опасения по поводу рисков ИИ «обманом», позвонил Хуангу прямо во время его выступления на конференции и заявил собравшимся по громкой связи, что «роботы не захватят власть». В тот же день он написал в соцсетях, что единственный нужный ИИ «контроль» или «ограничитель», это «сильный и умный (с высоким IQ!) президент», а у США такой есть, добавив, что администрация уже «останавливала ИИ-„людей” от плохих или потенциально плохих „вещей”», используя свою «огромную уголовную и регуляторную власть» над этими компаниями, и осудил «больной заговор» против ИИ и дата-центров.

Ник Риз, преподаватель Нью-Йоркского университета и бывший директор по политике в сфере новых технологий в Министерстве внутренней безопасности США, отмечает противоречие: именно первая администрация Трампа подготовила указ № 13960, который Трамп подписал и который до сих пор не отменён, он закрепляет принципы использования ИИ федеральными органами с защитой приватности, гражданских прав и свобод. По словам Риза, шесть лет назад администрация Трампа сама подписывала указ по безопасности ИИ, так что нынешняя позиция президента, это реальная перемена. Блогер, пишущий об ИИ-индустрии, Zvi Mowshowitz считает, что Трамп не является полностью противником регулирования, ведь именно он ввёл ограничения для передовых лабораторий вроде обязательного тестирования моделей властями перед выпуском, но его позиция определяется скорее «настроением», чем последовательной политикой: он пока не принимает саму рамку «экзистенциального риска» ИИ.

По мнению Риза, аргумент против регулирования, это уже «надоевшая» идея, что регулирование якобы всегда вредит инновациям. На деле, говорит он, регулируют именно те сферы, где недопустим никакой сбой, например, финансы или авиацию: там выстраивают системы контроля, проверки качества и резервные механизмы, чтобы не допустить системного вреда. ИИ же, по его словам, пока остаётся исключением из этого правила.

Ключевые факты

  • Публичное согласие глав OpenAI, Google DeepMind и SpaceX с планом регулирования ИИ, предложенным главой Anthropic Дарио Амодеем, продержалось лишь несколько дней.
  • Meta (Марк Цукерберг), Илон Маск и глава Nvidia Дженсен Хуанг, по данным The Wall Street Journal, сорвали планы по созданию независимого регулятора ИИ-отрасли по образцу финансового FINRA.
  • Администрация Трампа называет опасения о рисках ИИ «обманом»; сам президент заявил, что единственный нужный ИИ контроль, это он сам, и что администрация уже располагает над ИИ-компаниями «уголовной и регуляторной властью».
  • OpenAI через директора по глобальной политике Криса Лихэйна продолжает добиваться от Конгресса обязательных национальных стандартов безопасности для передовых моделей.
  • Эксперт Ник Риз указывает на противоречие: первая администрация Трампа сама подписала указ № 13960 о принципах безопасности ИИ, который не отменён и поныне.

Почему это важно

Ещё несколько дней назад казалось, что крупнейшие ИИ-лаборатории, Anthropic, OpenAI, Google DeepMind, даже SpaceX, сходятся во мнении о необходимости регулирования. История показывает, что это согласие оказалось поверхностным: как только речь зашла о конкретном механизме, независимом регуляторе по образцу финансового FINRA, Meta, Маск и Nvidia его заблокировали. Одновременно администрация Трампа публично отрицает саму идею кризиса безопасности ИИ, называя её «обманом». Это разводит риторику отрасли («мы за безопасность») и реальную политическую динамику в США, где обязательных правил для передовых моделей пока нет и в ближайшее время может не появиться.

Кому это важно

Тем, кто следит за регулированием ИИ в США, инвесторам, юристам и комплаенс-командам самих лабораторий, а также конкурентам OpenAI и Anthropic, для которых исход спора определит, придётся ли им подчиняться единым отраслевым стандартам безопасности или каждая компания продолжит устанавливать правила для себя сама. Важно это и для наблюдателей за политикой самого Трампа: его нынешняя позиция расходится с указом об ИИ, который он же подписал в свой первый срок.

Как это применить

Прямого продукта или инструмента в этой истории нет, это репортаж о политической позиции компаний и чиновников. Практический вывод для тех, кто работает с ИИ-регулированием: рассчитывать на скорое появление обязательных федеральных стандартов безопасности в США пока не стоит, по крайней мере, до тех пор, пока в самой индустрии нет единства, а президент называет тему риска «обманом». Ориентироваться стоит на добровольные шаги отдельных лабораторий (как у OpenAI и Anthropic), а не на ожидаемый закон.

Можно ли доверять

Источник, репортаж The Verge с прямыми цитатами участников (директора OpenAI по глобальной политике Криса Лихэйна, экс-чиновника Минбезопасности Ника Риза, блогера Zvi Mowshowitz) и со ссылкой на отдельное расследование The Wall Street Journal о срыве плана по регулятору. Позиции Anthropic, Meta, Трампа приведены по их собственным словам и постам. Из проверяемого не хватает точных дат: когда именно вышло эссе Амодея, когда была статья WSJ и когда подписан указ № 13960, источник называет их только относительно («на выходных», «шесть лет назад»). Личность анонимного венчурного инвестора не раскрывается.

Риски и подводные камни

Ключевой риск, принять красивые публичные заявления за реальный прогресс: согласие CEO в начале недели ничего не значило уже через несколько дней, когда дошло до конкретного механизма контроля. Позиция Трампа, по описанию его же сторонников (Zvi Mowshowitz), определяется «настроением», а не последовательной политикой, то есть может измениться в любую сторону без предупреждения. А ставка отдельных лабораторий на саморегулирование («каждая лаборатория сама отвечает за свою безопасность», как пишет Цукерберг) оставляет отрасль без единого внешнего контроля именно там, где, по словам Риза, обычно вводят обязательные стандарты, там, где недопустим сбой.

«Людям важно знать, что ИИ разрабатывается безопасно. Это начинается с шагов, которые компании вроде нашей предпринимают сами, но у государства тоже есть важная роль. Сейчас открыто окно возможностей для политики в сфере ИИ, растёт двухпартийная поддержка обязательных национальных стандартов безопасности для передовых моделей. Конгрессу стоит превратить этот импульс в рамку, которая укрепит безопасность, поддержит американские инновации и сохранит лидерство США в сфере ИИ.»

— Крис Лихэйн, директор OpenAI по глобальной политике

Компания Meta Platforms признана экстремистской организацией, её деятельность на территории РФ запрещена.