OpenAI и NVIDIA подписали письмо в защиту открытых ИИ-моделей, Anthropic отказалась

24 июля было опубликовано открытое письмо «Open Weights and American AI Leadership», инициированное Microsoft. Его подписали 235 компаний, связанных с ИИ, включая NVIDIA, Amazon, Y Combinator, Linux Foundation и, позже, OpenAI. Письмо возражает против возможного запрета или жёсткого ограничения моделей с открытыми весами со стороны властей США под предлогом «безопасности». Авторы утверждают: закрытые модели тоже не гарантируют безопасности, их можно взломать, использовать во вред или они могут давать сбои незаметно для внешних наблюдателей, а концентрация продвинутых ИИ-технологий в руках нескольких закрытых провайдеров создаёт единые точки отказа, ослабляет конкуренцию и оставляет критическую технологию в руках немногих компаний. Открытые веса, напротив, позволяют широкому кругу исследователей и разработчиков изучать поведение моделей, находить уязвимости, разрабатывать защитные меры и улучшать модели со временем.

Отдельно письмо неожиданно поддержало дистилляцию, практику обучения одной модели на выходных данных другой. Авторы просят регуляторов не путать эту широко распространённую технику улучшения, оценки и валидации моделей с незаконным присвоением технологий.

Anthropic письмо не подписала. Через три дня после 24 июля компания опубликовала собственный ответ «Our position on open-weights models». Гендиректор Anthropic Dario Amodei заявил, что риск в том, что авторитарные государства могут создавать «ИИ-модели, которые мощнее моделей, построенных в США», и что такие модели могут быть «использованы для кибератак или биологических атак». Вместо ограничения открытых весов как таковых Amodei призвал к «жёсткому пресечению промышленной дистилляции», одновременно подчеркнув: «Anthropic никогда не выступала за запрет моделей с открытыми весами».

28 июля появилось третье письмо, «Pacing the Frontier», собравшее 1324 подписи сотрудников передовых ИИ-компаний, включая главного научного сотрудника OpenAI Jakub Pachocki, Ilya Sutskever из Safe Superintelligence Inc (ранее, OpenAI), а также Dario Amodei и Jack Clark из Anthropic. Основное требование письма: «Мы просим, чтобы правительство США поддержало международные усилия по созданию технических и регуляторных инструментов, необходимых для сознательного сдерживания темпа автоматизированной разработки ИИ».

Подписантов «Pacing the Frontier» беспокоит сочетание острого конкурентного давления между компаниями и ускорения ИИ-прогресса за счёт автоматизации самих исследований. В качестве иллюстрации приводятся примеры: Anthropic производит 80% своего кода с помощью Claude Code; система Sol компании OpenAI сократила сквозные расходы на обслуживание на 20%; а Kimi K3 спроектировала чип для обслуживания нано-модели, построенной на собственной архитектуре компании.

Ключевые факты

24 июля 235 компаний, включая NVIDIA, Amazon, Y Combinator, Linux Foundation и позже OpenAI, подписали инициированное Microsoft письмо «Open Weights and American AI Leadership» в защиту моделей с открытыми весами.
Anthropic письмо не подписала и через три дня выпустила собственный ответ: гендиректор Dario Amodei предупредил о риске использования открытых моделей авторитарными государствами для кибератак и биологических атак и призвал ограничить промышленную дистилляцию, подчеркнув, что Anthropic никогда не выступала за запрет открытых весов.
28 июля вышло третье письмо, «Pacing the Frontier», с 1324 подписями сотрудников передовых ИИ-компаний, включая Jakub Pachocki (главный научный сотрудник OpenAI), Ilya Sutskever (Safe Superintelligence) и Jack Clark (Anthropic), с просьбой к властям США помочь сдержать темп автоматизированной разработки ИИ.
Авторы «Pacing the Frontier» указывают на конкурентное давление и ускорение исследований за счёт автоматизации: Anthropic пишет 80% кода с помощью Claude Code, система Sol от OpenAI снизила сквозные расходы на обслуживание на 20%, а Kimi K3 спроектировала чип для собственной нано-модели.
Письмо в защиту открытых моделей отдельно поддержало дистилляцию как легитимную технику улучшения и оценки моделей и попросило регуляторов не путать её с незаконным присвоением технологий.

Почему это важно

За неделю индустрия ИИ выпустила три конкурирующих открытых письма, которые обозначили линию раскола в споре о регулировании. С одной стороны, коалиция из 235 компаний во главе с Microsoft, отстаивающая открытые веса как противовес концентрации технологий в руках немногих закрытых провайдеров. С другой, Anthropic, предупреждающая о риске использования открытых моделей авторитарными государствами для кибератак и биологических атак. Третье письмо, «Pacing the Frontier», подписанное 1324 сотрудниками ведущих ИИ-лабораторий (включая топ-менеджеров OpenAI и Anthropic), показывает, что даже внутри конкурирующих компаний растёт тревога по поводу скорости, с которой автоматизированные ИИ-исследования разгоняют прогресс.

Кому это важно

Регуляторам и законодателям США, которые сейчас формируют политику в отношении моделей с открытыми весами; крупным ИИ-компаниям, которым приходится публично определять позицию по этому вопросу; исследователям и разработчикам открытых моделей, чья работа может попасть под будущие ограничения; сотрудникам передовых ИИ-лабораторий, которые сами выступили инициаторами третьего письма.

Как это применить

Для тех, кто следит за политикой регулирования ИИ в США, эти три письма, готовая карта позиций. Письмо, инициированное Microsoft и подписанное 235 компаниями, показывает, кто выступает за открытые веса (среди них NVIDIA, Amazon, Y Combinator, Linux Foundation и позже OpenAI). Ответ Anthropic формулирует альтернативную повестку: не запрет открытых моделей, а контроль над промышленной дистилляцией. «Pacing the Frontier» с 1324 подписями фиксирует запрос индустрии на международные механизмы сдерживания темпа автоматизированной разработки. При оценке будущих законопроектов или заявлений компаний стоит сверяться, какую именно из этих трёх позиций они по факту поддерживают.

Можно ли доверять

Источник, авторский разбор Саймона Уиллисона, независимого исследователя, который много лет подробно документирует индустрию ИИ и обычно точно цитирует первоисточники. Цитаты Dario Amodei и текст письма «Pacing the Frontier» атрибутированы поимённо, с указанием должностей (Jakub Pachocki, главный научный сотрудник OpenAI, Ilya Sutskever, Safe Superintelligence, Jack Clark, Anthropic). Слабое место: полный список 235 подписантов первого письма в тексте не приводится, названы лишь пять примеров, а точная календарная дата ответа Anthropic не указана, только «через три дня» после 24 июля.

Риски и подводные камни

Сторонники открытых весов признают: закрытые модели тоже не гарантируют безопасности, их можно взломать, использовать во вред, они могут давать сбои незаметно для внешних наблюдателей, а концентрация технологий в руках нескольких провайдеров создаёт единые точки отказа. Anthropic указывает на встречный риск: открытые веса позволяют авторитарным государствам создавать модели, сопоставимые по мощи с американскими, и использовать их для кибератак или биологических атак, отсюда призыв ограничить не открытость моделей как таковую, а промышленную дистилляцию. Дополнительный слой риска, сама скорость: если автоматизированные ИИ-исследования (как в примерах с Claude Code, Sol и Kimi K3) продолжат ускорять разработку, конкурентное давление может обогнать способность индустрии и регуляторов договориться о правилах.

«Мы просим, чтобы правительство США поддержало международные усилия по созданию технических и регуляторных инструментов, необходимых для сознательного сдерживания темпа автоматизированной разработки ИИ.»

— письмо «Pacing the Frontier», 1324 подписи сотрудников передовых ИИ-компаний