Anthropic продвигает более жёсткие законы об ИИ в штатах США

Anthropic в 2025 году поддержала первую волну законов о прозрачности ИИ в Калифорнии и Нью-Йорке, притом что значительная часть Кремниевой долины выступала против них, считая, что такие требования затормозят ИИ-бум. Теперь компания говорит, что эти законы уже устарели, и продвигает в штатах ещё более жёсткие правила. Об этом в интервью WIRED заявил Сезар Фернандес, глава Anthropic по работе с властями штатов и на местном уровне в США: «Законопроекты о прозрачности 2025 года были важным началом, но пока возможности ИИ-систем продолжают быстро расти, политика должна успевать за ними. Мы считаем, что прозрачность и самостоятельное раскрытие информации больше не являются достаточными мерами безопасности для самых мощных ИИ-систем».

Помимо законов о самостоятельном раскрытии информации в Калифорнии и Нью-Йорке, Anthropic поддержала закон в Иллинойсе, обязывающий ИИ-лаборатории проходить проверку процессов безопасности у независимых аудиторов. Позже компания поддержала похожую инициативу в Массачусетсе, с независимым аудитом и правом генерального прокурора штата добиваться через суд предписания о прекращении нарушений для компаний, которые не соблюдают требования.

Фернандес присоединился к Anthropic в начале этого года; до этого он возглавлял направление работы с властями штатов в букмекерской компании FanDuel и был старшим специалистом по публичной политике в Uber, на обеих позициях помогал компаниям выигрывать политические баталии в разных штатах. Конгресс США по-прежнему не может принять федеральное регулирование ИИ, поэтому инициатива по регулированию переходит к штатам.

Часть Кремниевой долины видит за про-регуляторной позицией Anthropic скрытые мотивы. Дэвид Сакс, бывший советник Белого дома по вопросам ИИ и нынешний технологический советник президента Дональда Трампа, заявил, что Anthropic реализует «изощрённую стратегию регуляторного захвата, построенную на нагнетании страха», продвигая законы, которые в первую очередь бьют по небольшим стартапам и закрепляют лидерство самой Anthropic. Фернандес это отрицает: по его словам, Anthropic поддерживала только те законопроекты, которые касаются «крупных разработчиков ИИ-моделей», компаний, потративших сотни миллионов долларов на разработку ИИ и получающих более $500 млн годовой выручки; стартапу, по его мнению, трудно достичь такого порога. Но в мире, где для создания конкурентоспособной топовой ИИ-модели уже нужны миллиарды долларов, этот порог в обозримом будущем могут преодолеть Safe Superintelligence, Thinking Machines Lab и Mistral, компании, привлёкшие миллиарды инвестиций и являющиеся потенциальными конкурентами Anthropic.

В опубликованном недавно программном документе Anthropic предложила дать властям механизм блокировки развёртывания новых ИИ-моделей, если те сочтут их небезопасными, но настаивает, что это право должно быть у федерального правительства, а не у отдельных штатов. Ситуация выглядит иронично: ранее администрация Трампа сама распорядилась приостановить для иностранных пользователей доступ к двум самым мощным моделям Anthropic, Mythos и Fable 5, из-за чего компания временно отключила их для всех пользователей. Тогда Anthropic писала в блоге, что блокировать развёртывание моделей следует только через честную и прозрачную процедуру оценки.

В прошлом месяце Anthropic также направила властям США письмо с обвинением китайской Alibaba в «атаке дистилляции», систематическом извлечении информации из моделей Anthropic через промпты для создания собственных ИИ-инструментов. Часть исследователей считает эти обвинения ещё одной формой регуляторного захвата: по их версии, настоящая цель Anthropic, добиться от властей США запрета китайских моделей с открытыми весами, чтобы тысячи американских компаний, которые ими пользуются, перешли на корпоративные продукты Anthropic. Генеральный директор Anthropic Дарио Амодей ранее уже предупреждал Конгресс об опасностях ИИ с открытым исходным кодом. При этом на уровне штатов, по словам Фернандеса, Anthropic не выступала конкретно против моделей с открытыми весами в поддержанных ею законопроектах, компания говорит, что дело не в способе построения модели, а в уровне её возможностей.

Материал WIRED отмечает и избирательность повестки Anthropic: компания много лет добивается регулирования катастрофических рисков ИИ, но заметно менее активно продвигает законы штатов по темам, которые чаще волнуют избирателей, потерю рабочих мест, нагрузку на инфраструктуру от дата-центров и влияние чат-ботов на детей. Anthropic и ряд конкурентов обещали, что за строительство дата-центров не придётся платить обычным налогоплательщикам, и опубликовали предложения на случай вытеснения работников ИИ, но политического веса за этими темами стоит заметно меньше. Фернандес говорит, что Anthropic «готова взаимодействовать» с законодателями и по этим вопросам и уже ведёт такие разговоры в штатах, но пока это не вылилось в скоординированную кампанию, сопоставимую с той, что компания развернула вокруг катастрофических рисков.

Ключевые факты

Anthropic (оценка почти $1 трлн) продвигает в штатах США законы об ИИ жёстче тех, что сама поддержала в 2025 году в Калифорнии и Нью-Йорке.
Компания поддержала закон в Иллинойсе о независимом аудите безопасности ИИ-лабораторий и похожую инициативу в Массачусетсе с правом генпрокурора штата добиваться судебного запрета для нарушителей.
Критики, включая советника Трампа Дэвида Сакса, обвиняют Anthropic в «регуляторном захвате», законы бьют по стартапам, а порог в $500 млн выручки конкуренты вроде Safe Superintelligence, Thinking Machines Lab и Mistral могут вскоре преодолеть.
Anthropic настаивает, что право блокировать развёртывание опасных моделей должно быть у федеральных властей, а не у штатов, хотя сама недавно пострадала от решения администрации Трампа приостановить доступ иностранцев к моделям Mythos и Fable 5.
Компания обвинила Alibaba в «атаке дистилляции» своих моделей; часть исследователей считает это попыткой добиться запрета китайских открытых моделей в пользу продуктов Anthropic.

Почему это важно

Anthropic, стоящая почти $1 трлн ведущая ИИ-лаборатория, публично требует от властей штатов США более жёсткого регулирования ИИ, чем сама помогла принять годом ранее. Это необычная ситуация, когда крупный игрок рынка сам добивается ужесточения правил для себя же, и она напрямую формирует то, как в США будут регулировать самые мощные модели в отсутствие федерального закона.

Кому это важно

Материал важен законодателям штатов и федеральным регуляторам, которые сейчас пишут правила для ИИ; конкурирующим лабораториям (Safe Superintelligence, Thinking Machines Lab, Mistral и другим), для которых пороги регулирования могут стать барьером входа; инвесторам и стартапам, оценивающим регуляторные риски; а также специалистам по ИИ-политике, которые следят за тем, как Anthropic балансирует между позицией «за безопасность» и интересами собственного бизнеса.

Как это применить

Стоит различать уже принятые нормы (законы о прозрачности в Калифорнии и Нью-Йорке, независимый аудит в Иллинойсе) и то, что Anthropic продвигает дальше (аудит с правом штата на судебный запрет в Массачусетсе, федеральный механизм блокировки развёртывания опасных моделей). Практический ориентир, порог «крупного разработчика»: сотни миллионов долларов вложений в разработку и выручка от $500 млн в год; по нему можно прикинуть, какие компании подпадут под новые правила первыми.

Можно ли доверять

Материал, это авторская колонка-интервью WIRED (выпуск рассылки Model Behavior), сочетающая прямые цитаты Фернандеса с анализом журналиста и открыто приводящая контраргумент оппонента, Дэвида Сакса. Слова Фернандеса о мотивах Anthropic стоит воспринимать как позицию одной из сторон публичного спора, а не как установленный факт: сама статья отмечает, что часть исследователей считает обвинения Anthropic в адрес Alibaba ещё одной формой регуляторного захвата.

Риски и подводные камни

Избирательность повестки: Anthropic годами продвигает регулирование катастрофических рисков ИИ, но заметно меньше давит на темы, которые волнуют рядовых избирателей, потерю рабочих мест, нагрузку от дата-центров и влияние чат-ботов на детей. Есть и внутреннее противоречие: компания просит дать властям право блокировать чужие модели, но сама недавно попала под похожее федеральное ограничение, вынужденную приостановку доступа иностранных пользователей к моделям Mythos и Fable 5. Наконец, порог регулирования, который сегодня отсекает стартапы, может перестать быть барьером уже в ближайшие годы, когда конкуренты Anthropic нарастят выручку.

«Мы считаем, что прозрачность и самостоятельное раскрытие информации больше не являются достаточными мерами безопасности для самых мощных ИИ-систем.»

— Сезар Фернандес, глава Anthropic по работе с властями штатов и на местном уровне в США