Дарио Амодеи (Anthropic) ответил критикам: открытые ИИ-модели не решают централизацию власти

В X (бывший Twitter) вспыхнул открытый спор о регулировании ИИ и концентрации власти. Инвестор Гэвин Бейкер, экс-советник Белого дома по ИИ Дэвид Сакс и исследователь Meta Ян Лекун обвинили гендиректора Anthropic Дарио Амодеи в том, что он использует риторику страха, чтобы получить регуляторное преимущество для своей компании.

Спор начался с заявления Бейкера на подкасте All-In: по его словам, Амодеи говорил внутри компании, что Anthropic может однажды остаться единственной частной ИИ-компанией в мире, а рядом с ней, только правительства. Исследователь Anthropic Шолто Дуглас назвал этот пересказ «полностью ложью»: по его словам, именно экономической концентрации власти Anthropic боится больше всего, а рынок ИИ и так самый конкурентный в мире, потому что каждая крупная компания гонится за более умными и дешёвыми моделями.

Бейкер сформулировал суть разногласий так: если ИИ потенциально опасен, есть две базовые позиции, либо считать его слишком опасным, чтобы широко распространять, и сосредоточить в руках нескольких компаний и политиков, либо считать его слишком опасным, чтобы концентрировать, и распространять как можно шире. По мнению Бейкера, ставка на то, что абсолютная власть будет благожелательно заботиться о человечестве, исторически редко оправдывалась. Ян Лекун однозначно встал на сторону открытых моделей: по его словам, ИИ, как печатный станок и интернет, усиливает человеческий интеллект, расширяя доступ к знаниям, и обществу нужно такое же разнообразие ИИ-систем с разными ценностями, как и разнообразие прессы.

В спор вмешался сам Амодеи, это был лишь его четвёртый пост в X за год. Он назвал такую постановку вопроса ложным выбором. По его словам, в части Кремниевой долины по умолчанию считают, что любое регулирование автоматически означает захват регулирования отраслью в свою пользу, это слишком упрощённо: регулирование может и сдерживать корпоративную власть, помогая рядовым гражданам, если сильные институты закрепляют власть за идеями, а не за отдельными людьми. Именно поэтому, утверждает Амодеи, Anthropic намеренно проектирует свои предложения так, чтобы сдерживать крупные лаборатории и благоприятствовать небольшим. В доказательство он привёл калифорнийский закон SB53, который полностью освобождает от требований компании ниже определённого порога выручки или затрат на обучение моделей (конкретная цифра порога в источнике не названа). Открытые модели, чьи веса свободно доступны, по его словам, решают проблему лишь частично: они просто смещают концентрацию власти к тем, у кого больше всего вычислительных мощностей и ИИ-чипов, а это снова возвращает её крупным лабораториям. ИИ централизуется по самой своей структуре, в первую очередь из-за законов масштабирования, а не из-за регулирования, заявил Амодеи.

Дэвид Сакс, до недавнего времени советник Белого дома по ИИ, ответил Амодеи девятичастным постом. Он отметил, что Амодеи так и не оспорил сам факт заявления Бейкера, хотя вполне мог бы. Аргумент Амодеи про «пугало регуляторного захвата» Сакс назвал подменой тезиса: почти никто на самом деле не считает, что любое регулирование, это захват отрасли. Он сослался на определение нобелевского лауреата Джорджа Стиглера, согласно которому отрасль добивается нужных ей правил и использует их прежде всего в собственных интересах, а выгода для широкой публики остаётся рассеянной и неорганизованной. По словам Сакса, Anthropic прекрасно понимает этот механизм и уже наняла нескольких бывших чиновников из администрации Байдена, отвечавших за ИИ, выстраивая крупный аппарат по работе с государством. Предложение Амодеи создать федеральное агентство, которое проверяло бы топовые модели перед релизом, Сакс назвал «бюро одобрения ИИ»: по его словам, такая процедура создаст длинные очереди и замедлит США в конкуренции с Китаем, который подобные требования вводить не станет.

Бейкер подытожил спор заявлением, что дискуссия, по сути, уже решена: письмо Дженсена Хуанга в поддержку открытых моделей подписали почти все крупные ИИ-компании, кроме Anthropic.

Ключевые факты

Инвестор Гэвин Бейкер заявил, что Амодеи внутри компании говорил: Anthropic может остаться единственной частной ИИ-компанией в мире рядом с одними правительствами; исследователь Anthropic Шолто Дуглас назвал это «полностью ложью».
Амодеи (в своём четвёртом за год посте в X) назвал спор ложным выбором и привёл калифорнийский закон SB53, он полностью освобождает от требований компании ниже определённого порога выручки или затрат на обучение, как доказательство, что его предложения сдерживают крупные лаборатории, а не Anthropic.
По словам Амодеи, открытые ИИ-модели решают проблему централизации власти лишь частично: они смещают концентрацию к тем, у кого больше всего вычислительных мощностей и чипов, то есть снова к крупным лабораториям; централизация ИИ вытекает из законов масштабирования, а не из регулирования.
Дэвид Сакс, экс-советник Белого дома по ИИ, ответил девятичастным постом: назвал аргумент Амодеи подменой тезиса, сослался на определение регуляторного захвата нобелевского лауреата Джорджа Стиглера, указал на наём Anthropic бывших чиновников администрации Байдена и предупредил, что предложенное Амодеи агентство одобрения моделей затормозит США в гонке с Китаем.
Ян Лекун поддержал открытые модели как усилитель доступа к знаниям; Бейкер отметил, что письмо Дженсена Хуанга в поддержку открытых моделей подписали почти все крупные ИИ-компании, кроме Anthropic.

Почему это важно

Это не рядовая перепалка в соцсети, а публичное столкновение позиций по главному вопросу ИИ-политики: что на самом деле концентрирует власть, регулирование или его отсутствие. Гендиректор одной из ведущих лабораторий безопасности впервые за долгое время развёрнуто объясняет логику своих регуляторных предложений в ответ на обвинение в скрытой выгоде, а его оппоненты, не случайные критики, а заметные фигуры индустрии и бывший советник Белого дома по ИИ.

Кому это важно

Тем, кто следит за политикой регулирования ИИ в США: регуляторам и законодателям, оценивающим такие законы, как SB53; конкурирующим лабораториям и стартапам, для которых вопрос порогов регулирования, это вопрос выживания; сообществу открытых моделей, чей главный аргумент («открытость решает проблему власти») здесь прямо оспаривается; и наблюдателям за конкуренцией США и Китая в ИИ.

Как это применить

Читая любое регуляторное предложение от ИИ-компании, искать конкретные пороги и исключения (как в SB53), а не только декларации о благих намерениях: именно пороги показывают, кого закон реально коснётся. И не принимать тезис «открытые модели сами по себе решают проблему концентрации власти» без оговорки: аргумент Амодеи о том, что вычислительная мощность и чипы остаются узким местом, стоит учитывать при оценке любых подобных инициатив.

Можно ли доверять

Источник пересказывает публичную переписку в X между названными публичными фигурами, Амодеи, Бейкером, Саксом, Лекуном, Дугласом, и в основных местах опирается на их собственные посты. Слабое место: исходное заявление Бейкера на подкасте All-In передано в пересказе, а не прямой цитатой, а конкретная цифра порога выручки/затрат на обучение в законе SB53 в материале не приводится.

Риски и подводные камни

Аргумент Сакса о регуляторном захвате (со ссылкой на Стиглера) описывает реальный и известный механизм: отрасль, лоббирующая выгодные себе правила, и найм Anthropic бывших чиновников делает подозрение небезосновательным. Одновременно контраргумент Амодеи о том, что централизация ИИ идёт от законов масштабирования и концентрации чипов, а не только от регулирования, тоже нельзя игнорировать: пока спор не решён, обе стороны рискуют выдавать частный интерес за принцип, Anthropic за заботу о безопасности, а критики за заботу об открытости.

«Это полностью ложь»

— Шолто Дуглас, исследователь Anthropic, об утверждении, что Amodei говорил о превращении Anthropic в единственную частную ИИ-компанию в мире

Компания Meta Platforms признана экстремистской организацией, её деятельность на территории РФ запрещена.