Anthropic добилась отмены чёрного списка Пентагона
В четверг судья окружного суда США в Калифорнии Рита Лин отменила решение администрации Трампа, которым в феврале Anthropic была объявлена угрозой национальной безопасности из-за спора об использовании её ИИ-моделей военным ведомством США. По оценке судьи, это решение стало неконституционной местью в адрес компании.
Судебное постановление отменяет распоряжение министра обороны Пита Хегсета от 27 февраля, которым Anthropic была отнесена к категории «поставщика риска для цепочки поставок» (supply-chain risk) и лишена права заключать федеральные контракты. Тем же постановлением суд снял и дополнительную карательную меру Хегсета, запрет для военных подрядчиков и поставщиков США вести дела с Anthropic; эту меру судья Лин назвала «произвольной, капризной, представляющей собой злоупотребление полномочиями и не соответствующей закону». В 59-страничном постановлении она написала: «Хотя Министерство войны, безусловно, вправе само выбирать поставщика ИИ, представленные доказательства показывают, что широкие меры, введённые против Anthropic, были незаконными и необоснованными».
Суд также установил, что девять федеральных ведомств, включая Пентагон, Минфин, Госдепартамент и Министерство внутренней безопасности, неправомерно ввели санкции против Anthropic, и отменил эти санкции. При этом Пентагон не обязан использовать модели Anthropic: решение не мешает ведомству выбрать других поставщиков ИИ. Получить комментарий представителя Пентагона не удалось; ожидается, что ведомство подаст апелляцию. Представитель Anthropic Даниэль Коэн заявила: «Мы приветствуем решение суда о том, что обозначение риска для цепочки поставок было незаконным. Мы по-прежнему сосредоточены на продуктивной работе с государством, чтобы применять ИИ в интересах нашей национальной безопасности».
В основе спора, сделка на $200 млн об использовании моделей Claude в военных целях. Разлад обострился после сообщений о том, что США применяли Claude в операции по поимке президента Венесуэлы Николаса Мадуро: после этой операции сотрудник Palantir передал американским чиновникам обеспокоенность сотрудника Anthropic по поводу того, как использовались модели компании. На переговорах Anthropic настаивала на ряде ограничений на применение своих моделей, в том числе в вопросах, касающихся автономного летального оружия и систем массовой слежки. Хегсет отверг любые ограничения, заявив, что подрядчик не вправе диктовать, как будет использоваться технология после развёртывания, и настаивал, что контракт допускает «любое законное использование». После срыва переговоров в феврале Хегсет, по общему мнению, наказал Anthropic, присвоив ей статус «поставщика риска», инструмент, фактически внёсший компанию в чёрный список и лишивший её права вести дела с федеральным правительством. Пентагон тогда утверждал, что решение обосновано: допуск Anthropic к любым секретным системам создал бы «неприемлемый риск», если бы разработчик ИИ мог отключить или изменить свою технологию, например, в военное время.
В ответ Anthropic подала два иска, в федеральный окружной суд Калифорнии (именно его и разрешило нынешнее постановление) и в апелляционный суд США по округу Колумбия, обвинив Пентагон в нарушении своих прав по Первой и Пятой поправкам на идеологической почве; рассмотрение второго иска продолжается. Топовые модели Anthropic считаются одними из лучших в мире; отдельно от истории с чёрным списком они недавно попали под действие введённого администрацией Трампа механизма надзора за мощными ИИ-моделями. В своём постановлении судья Лин сослалась именно на участие администрации в проверке продвинутых моделей Anthropic: «Даже сейчас правительство обсуждает с Anthropic сотрудничество по её новой модели Mythos в целом ряде чувствительных контекстов, написала она., Всё это не сочетается с искренним опасением, что Anthropic, саботажник, который отравит своё программное обеспечение во вред национальной безопасности».
Ключевые факты
- Федеральный судья Рита Лин (округ Калифорния) в четверг отменила решение министра обороны Пита Хегсета от 27 февраля о признании Anthropic «поставщиком риска для цепочки поставок», статус, лишавший компанию права на федеральные контракты.
- Суд также снял запрет для военных подрядчиков и поставщиков США вести дела с Anthropic и отменил санкции девяти федеральных ведомств (включая Пентагон, Минфин, Госдепартамент и Министерство внутренней безопасности), назвав меры произвольными и не соответствующими закону.
- Спор возник вокруг сделки на $200 млн об использовании моделей Claude в военных целях и обострился после сообщений о применении Claude в операции по поимке президента Венесуэлы Николаса Мадуро.
- Anthropic оспорила действия Пентагона в двух исках: калифорнийский разрешён этим решением, апелляционный иск в округе Колумбия ещё рассматривается; Пентагон, как ожидается, обжалует нынешнее постановление.
- Решение не обязывает Пентагон покупать продукт Anthropic, ведомство по-прежнему вправе выбрать других поставщиков ИИ.
Почему это важно
Это громкое судебное поражение федерального правительства в конфликте с ИИ-компанией о том, кто решает, как применяются модели ИИ в оборонной сфере. Пентагон использовал статус «поставщика риска для цепочки поставок», инструмент, обычно применяемый против реальных угроз безопасности, как рычаг давления в споре об условиях сделки на $200 млн. Суд признал такое применение этого инструмента неконституционной местью, а не мерой национальной безопасности, что ограничивает возможности ведомств наказывать подрядчиков статусом «риска» за несогласие с условиями использования их технологий.
Кому это важно
Прежде всего, Anthropic, которая восстанавливает право участвовать в федеральных контрактах и работать с подрядчиками Пентагона. Важно и другим ИИ-компаниям и технологическим подрядчикам, ведущим дела с оборонным ведомством США: дело показывает, насколько государство может карать поставщика за настаивание на ограничениях использования его моделей (например, в сценариях с автономным оружием или массовой слежкой). Значимо оно и для юристов, следящих за пределами полномочий исполнительной власти, а также для всех, кто следит за отношениями Anthropic с администрацией Трампа на фоне растущего надзора за мощными ИИ-моделями.
Как это применить
Для компаний, ведущих переговоры о применении своих моделей госзаказчиками: решение, пример, показывающий, что попытку ведомства наказать подрядчика статусом «риска» за настаивание на ограничениях использования можно оспорить в суде как неконституционную месть. При этом решение не обязывает Пентагон покупать продукт конкретного поставщика, ведомство по-прежнему свободно выбирать других вендоров, а сам спор о том, на каких условиях Claude может применяться в военных сценариях (включая автономное оружие и слежку), формально не решён.
Можно ли доверять
Материал Wired опирается на текст 59-страничного постановления судьи Риты Лин, прямые цитаты из него и официальное заявление представителя Anthropic Даниэль Коэн; издание также пыталось получить комментарий Пентагона, но безуспешно. Ключевые детали о происхождении спора, операция по поимке Мадуро, роль сотрудника Palantir, поданы со ссылкой на «сообщения», а не как подтверждённый факт самого издания: это честная атрибуция, а не голословное утверждение.
Риски и подводные камни
Пентагон, как ожидается, обжалует решение, так что точка в деле пока не поставлена; параллельный иск Anthropic в апелляционном суде округа Колумбия ещё не рассмотрен. Даже при победе в суде Anthropic не получает гарантированного доступа к военным контрактам, Пентагон остаётся волен выбрать другого поставщика ИИ. А сам конфликт о том, допустимо ли применять модели компании для автономного летального оружия и массовой слежки, решением суда не разрешён: стороны по-прежнему расходятся в этом вопросе.
«Всё это не сочетается с искренним опасением, что Anthropic, саботажник, который отравит своё программное обеспечение во вред национальной безопасности.»
— судья Рита Лин, из текста постановления