Anthropic проиграла в апелляционном суде дело о блокировке для военных
Апелляционный суд США по округу Колумбия решением 2:1 отклонил жалобы Anthropic и признал законным решение Министерства обороны внести технологии компании в чёрный список. По мнению судей, администрация Трампа имела право заблокировать Anthropic за отказ включить определённые функции ИИ по запросу военных, даже если у компании не было злого умысла.
Судебная коллегия признала, что дело поднимает «крайне сложные вопросы о том, как военным следует использовать почти невообразимо мощную новую технологию». В решении отмечается, что власти указывают на риск того, что излишне ограниченные модели ИИ будут неожиданно отключаться и срывать важные военные операции, тогда как Anthropic предупреждает об обратном риске, что недостаточно ограниченные модели могут «галлюцинировать» и указывать на неверные цели для смертоносного военного удара. Суд заключил, что президент Трамп и министр обороны Пит Хегсет «должны сами определить, как балансировать эти риски», и что министр не превысил своих полномочий по Закону о безопасности цепочек поставок (Supply Chain Security Act) и Конституции, поэтому жалобы Anthropic были отклонены.
Оба судьи, проголосовавшие против Anthropic, Грегори Кацас и Неоми Рао, были назначены Трампом и работали в его первой администрации: Кацас ранее занимал должность заместителя юрисконсульта президента, а Рао служила в Административно-бюджетном управлении при Трампе.
Anthropic подала иск против администрации Трампа ещё в марте, после того как федеральным ведомствам запретили использовать продукты компании, а оборонным подрядчикам, вести с ней любой бизнес. Тот же апелляционный суд ранее, в апреле, уже отказал Anthropic в срочной приостановке действия запрета. Теперь у компании остаются два варианта обжалования: попросить пересмотра дела полным составом апелляционного суда (en banc) либо обратиться в Верховный суд.
Представитель Anthropic заявил телеканалу CNBC: «Мы уважительно не согласны с решением суда. Другой федеральный суд уже признал незаконным аналогичное решение властей. Мы уверены в своей позиции и рассматриваем все варианты, включая дальнейшее обжалование». При этом министр торговли Говард Латник недавно заявил, что администрация Трампа и Anthropic уже «наладили отношения» и действуют «в унисон».
Ключевые факты
- Апелляционный суд США по округу Колумбия решением 2:1 отклонил жалобы Anthropic на решение Пентагона внести её технологии в чёрный список
- Причина блокировки, отказ Anthropic предоставить военным определённые функции ИИ; суд решил, что у администрации Трампа было право на это, даже без злого умысла компании
- Anthropic подала иск в марте после того, как федеральным ведомствам запретили использовать её продукты, а оборонным подрядчикам, сотрудничать с компанией; в апреле тот же суд уже отклонил просьбу о срочной приостановке запрета
- Оба судьи, проголосовавшие против Anthropic, были назначены Трампом и работали в его первой администрации
- Anthropic не согласна с решением и рассматривает пересмотр дела полным составом суда либо обращение в Верховный суд; при этом другой федеральный суд уже признал незаконным схожее решение властей
Почему это важно
Решение создаёт судебный прецедент: власти США могут ограничивать доступ военных и оборонных подрядчиков к продуктам ИИ-компании, если та отказывается встраивать в модели запрошенные военными функции, вне зависимости от мотивов компании. Это первое подобное подтверждение полномочий администрации в сфере регулирования возможностей ИИ для оборонных нужд.
Кому это важно
Это касается самой Anthropic, других разработчиков ИИ, работающих или планирующих работать с государством и оборонными подрядчиками, а также юристов и регуляторов, отслеживающих, как право трактует полномочия исполнительной власти в отношении технологий двойного назначения.
Как это применить
Компаниям, поставляющим ИИ-продукты государственным и оборонным заказчикам, стоит учитывать этот прецедент при переговорах об условиях использования и функциональности своих моделей: отказ выполнить требования военных по функциям ИИ теперь может обернуться формальным запретом на сотрудничество, признанным судом законным.
Можно ли доверять
Материал основан на прямом изложении текста судебного решения апелляционного суда США и цитатах представителя Anthropic, данных CNBC, а также заявлении министра торговли Говарда Латника; источник, Ars Technica. Имя судьи, оставшегося в меньшинстве, и текст его особого мнения в статье не приводятся.
Риски и подводные камни
Суд сам признал, что дело балансирует между двумя серьёзными рисками: излишне ограниченный ИИ может отказать в критический момент военной операции, а недостаточно ограниченный, ошибочно указать на цель для смертоносного удара. Ситуация также юридически неоднозначна: по словам Anthropic, другой федеральный суд уже признал незаконным похожее решение властей, так что вопрос может дойти до пересмотра всем составом апелляционного суда или до Верховного суда.
«Это дело поднимает крайне сложные вопросы о том, каким должно быть военное применение почти невообразимо мощной новой технологии.»
— коллегия судей апелляционного суда США по округу Колумбия