Anthropic опровергла обвинения в желании запретить open-weights модели
Глава Anthropic Дарио Амодей опубликовал заявление о позиции компании по open-weights моделям, ИИ-моделям, чьи веса выложены в открытый доступ. Поводом стала дискуссия последних дней: власти США рассматривают запрет на использование китайских open-weights моделей американскими компаниями, в ответ на что ряд технологических компаний подписал открытое письмо в поддержку open-weights моделей, а некоторые обвинили саму Anthropic в желании запретить открытые модели ради защиты своего бизнеса. Амодей опроверг это прямо: Anthropic никогда не выступала за запрет open-weights моделей. По его словам, open-weights модели без опасных возможностей, общественное благо: они не требуют ничего, кроме вычислительных мощностей для запуска, и приносят пользу бизнесу, разработчикам и исследователям.
Амодей называет две реальные угрозы национальной безопасности, которые протекционистские запреты не решают. Первая, риск того, что авторитарные правительства (в первую очередь Компартия Китая, хотя не только она) создадут ИИ-модели мощнее американских и используют их для военного превосходства или подавления собственного населения; при этом неважно, выложены ли такие модели в открытый доступ, самой опасной, по его мнению, была бы модель, обученная тайно и переданная исключительно Народно-освободительной армии Китая для дронов и Министерству госбезопасности для слежки и репрессий. Вторая угроза, использование мощных моделей для кибератак или биологических атак, а также проблемы согласованности (alignment): open-weights модели действительно рискованнее закрытых, потому что к ним трудно применить защитные механизмы или отследить использование, а после публикации весов их нельзя отозвать. Но запрет на использование таких моделей американскими компаниями с этим не борется, недобросовестные игроки редко являются легальным американским бизнесом.
Вместо запрета Anthropic последовательно поддерживает три меры: не продавать Китаю мощные чипы и оборудование для их производства и жёстко бороться с контрабандой и обходными схемами (Китай не может обучать модели мощнее американских без американских чипов, из-за законов масштабирования); бороться с промышленной дистилляцией (Anthropic уже блокирует аккаунты, которые используют модели компании таким образом, хотя проблему это полностью не решает); и ввести обязательное тестирование безопасности для всех достаточно мощных моделей, открытых и закрытых, на киберугрозы, биологические риски и согласованность, при этом менее мощные модели стартапов и академических групп предлагается от такого тестирования освободить. Амодей отмечает, что администрация Трампа уже движется в эту сторону, и надеется, что подобное тестирование со временем станет глобальным, с участием Китая.
С открытым письмом технологических компаний Амодей согласен частично: он признаёт, что open-weights модели расширяют доступ к ИИ-экономике, усиливают конкуренцию и дают заказчикам больше контроля. Но не согласен с тезисом письма, что открытость обязательно облегчает защиту или что широкий доступ к возможностям модели в целом помогает защищающейся стороне больше, чем атакующей. Амодей считает, что в биологии, скорее, верно обратное: достаточно мощная модель способна быстро помочь создать патоген уровня пандемии из широко доступных материалов, тогда как защита от такой угрозы, многолетняя операционная задача даже в лучшем случае (в пример он приводит программу Operation Warp Speed по разработке вакцин от COVID-19). Такие вопросы, по его мнению, должны решаться эмпирическим тестированием перед выпуском модели, а не предполагаться заранее.
Ключевые факты
- Дарио Амодей опроверг обвинения в том, что Anthropic хочет запретить open-weights модели ради защиты своего бизнеса, на фоне обсуждения в США возможного запрета китайских открытых моделей
- Две реальные угрозы, по Амодею: авторитарные государства (в первую очередь Китай) строят более мощный военный ИИ вне зависимости от открытости весов; и open-weights модели труднее контролировать при рисках кибератак, биологических атак и проблем согласованности
- Вместо полного запрета Anthropic поддерживает три меры: экспортный контроль чипов и борьбу с контрабандой в Китай, преследование промышленной дистилляции и обязательное тестирование безопасности всех достаточно мощных моделей, открытых и закрытых
- Компания частично согласна с открытым письмом техкомпаний в поддержку open-weights моделей, но оспаривает тезис, что открытость всегда помогает защите больше, чем атаке, особенно в биологии
- Амодей ссылается на своё более раннее эссе «The Adolescence of Technology» и призывает к глобальному тестированию безопасности моделей с участием Китая
Почему это важно
На фоне обсуждения возможного запрета китайских open-weights моделей в США и обвинений в адрес Anthropic компания публично и предельно чётко зафиксировала позицию: она никогда не призывала запретить open-weights модели как категорию. Это важно, потому что задаёт рамку публичной дискуссии об открытых моделях, один из ключевых игроков рынка закрытых моделей явно отмежёвывается от протекционистской повестки, смещая фокус с формата распространения моделей (открытые или закрытые) на конкретные меры контроля: чипы, дистилляцию и обязательное тестирование безопасности.
Кому это важно
Регуляторам и законодателям США, формирующим политику экспортного контроля в отношении Китая; разработчикам open-weights моделей и подписантам открытого письма в их поддержку; сообществу ИИ-безопасности, для которого важен баланс атаки и защиты при открытых весах; и самой Anthropic, которой публично важно откреститься от обвинений в лоббировании запретов в интересах собственного бизнеса.
Как это применить
Компаниям и разработчикам, работающим с открытыми моделями, стоит следить за тремя направлениями регулирования, а не за угрозой полного запрета: ужесточение экспортного контроля чипов в Китай и борьбу с их контрабандой, преследование операций промышленной дистилляции (в том числе через блокировку аккаунтов у самих провайдеров API) и вероятное введение обязательного тестирования безопасности для достаточно мощных моделей, вне зависимости от того, открыта модель или закрыта. Стартапам и академическим командам с менее мощными моделями Амодей предлагает такое тестирование не вменять.
Можно ли доверять
Заявление сделано напрямую от лица гендиректора Anthropic Дарио Амодея и опирается на его собственное эссе «The Adolescence of Technology», опубликованное полугодом ранее, то есть подано как давно и последовательно занимаемая позиция, а не реакция на разовую критику. В подтверждение первой угрозы Амодей ссылается на слова вице-президента США Джей Ди Вэнса в Париже и на ежегодную оценку угроз разведывательного сообщества США за 2026 год. При этом стоит учитывать, что заявление исходит от компании, прямого игрока рынка закрытых моделей, поэтому его стоит читать и как коммерчески заинтересованную позицию: описание конкретных практик Anthropic (например, блокировка аккаунтов за дистилляцию) можно принять с оговорками, а сами предлагаемые меры совпадают с уже озвученной государственной повесткой США.
Риски и подводные камни
Сам Амодей признаёт, что усилия компании по борьбе с дистилляцией ограничены: нарушителей часто удаётся выявить только постфактум, а фейковые аккаунты для дистилляции меняются быстрее, чем их успевают блокировать. Предложенное глобальное тестирование безопасности потребует участия самого Китая, что делает эту меру, по собственному признанию Амодея, лишь вероятной, а не гарантированной. Тезис об асимметрии атаки и защиты в биологии, это предположение, а не доказанный факт: сам автор говорит, что ответ должны дать будущие тесты, а не текущие рассуждения. Наконец, позиция компании неизбежно совпадает с её коммерческими интересами как лидера закрытых моделей, что стоит учитывать при оценке беспристрастности заявления.