Глава Anthropic Дарио Амодеи назвал неприятие ИИ кризисом доверия
Инвестор Гэвин Бейкер на подкасте All-In и в X заявил, что предупреждения главы Anthropic Дарио Амодеи об опасностях ИИ подпитывают ответную реакцию против отрасли в США, в первую очередь против дата-центров. Бейкер написал, что Амодеи «проиграл спор» о регулировании ИИ (Anthropic поддерживала ряд регулирующих инициатив, включая калифорнийский закон о требованиях прозрачности для крупных ИИ-компаний), и, «раз ему скоро предстоит возглавлять одну из самых важных компаний в мире», ему стоит «постараться стать более позитивным адвокатом собственной индустрии».
В серии постов Амодеи не согласился с тем, что его сообщения были «непропорционально негативными»: по его словам, они «примерно поровну сбалансированы между рисками и преимуществами», а эссе «Machines of Loving Grace» он написал именно потому, что счёл, что индустрия недостаточно ярко рисует картину того, как ИИ может радикально изменить мир к лучшему.
При этом Амодеи признал, что «у общества негативный взгляд на ИИ» и что «это большая проблема», но не согласился с тем, что эта негативность вызвана «в первую очередь» им самим или другими руководителями ИИ-компаний, предупреждающими о рисках. «Я думаю, это фундаментально кризис доверия, сказал Амодеи., Обычные люди не доверяют компаниям, государству и технологической индустрии и всегда подозревают, что мы затеваем какой-то новый способ их обмануть». По его словам, этот кризис назревал десятилетиями, а нынешняя реакция на ИИ, лишь «очередной виток» того же процесса; недоверие всплывает и в заголовках про главу OpenAI Сэма Альтмана, то есть это проблема не одного Амодеи, а отрасли в целом.
Самой точной критикой в адрес ИИ-компаний, включая Anthropic, Амодеи назвал то, что они «пока не выполнили свои большие обещания принести пользу миру», «это целиком на нас», сказал он, добавив, что обещание вылечить рак с помощью ИИ звучит скорее как «клише, чем как вдохновляющая идея»; изменить отношение людей к ИИ способно только реальное излечение рака, а не улучшенные формулировки.
По поводу регулирования Амодеи заявил, что Бейкер представляет «ложный выбор» между широким распространением ИИ без регулирования и концентрацией технологии в руках нескольких компаний через регулирование. Он назвал «чрезмерно упрощённой» распространённую в Кремниевой долине формулу «регулирование = регуляторный захват = концентрация власти» и отметил, что многие за пределами этой среды видят в регулировании инструмент, который сдерживает корпоративную власть и защищает обычных людей, хотя сам он не во всём согласен и с этой точкой зрения. Именно поэтому, по его словам, Anthropic всегда очень осторожно формулирует свои политические предложения, стараясь замедлять передовые ИИ-компании и одновременно помогать более мелким конкурентам. По мнению Амодеи, ИИ структурно склонен концентрировать власть; открытые веса моделей отчасти помогают, но не решают проблему, поскольку лишь смещают концентрацию к тем, у кого больше всего вычислительных мощностей и чипов. Правильные «правила игры», считает он, способны одновременно снижать кибер-, био- и связанные с согласованием (alignment) риски ИИ, институционально сдерживать власть передовых компаний и оставлять место для открытых моделей с учётом их специфических рисков.
Ключевые факты
- Инвестор Гэвин Бейкер обвинил главу Anthropic Дарио Амодеи в том, что его предупреждения об опасностях ИИ разжигают ответную реакцию против отрасли, и призвал его стать «более позитивным адвокатом» индустрии.
- Амодеи назвал негатив общества к ИИ «фундаментально кризисом доверия» к компаниям, государству и техиндустрии в целом, а не следствием собственных заявлений о рисках.
- По словам Амодеи, самая точная критика Anthropic и других ИИ-компаний, невыполненные обещания принести пользу миру, а не стиль их коммуникации.
- Амодеи назвал «ложным» выбор между нерегулируемым распространением ИИ и его концентрацией через регулирование; Anthropic намеренно готовит предложения, которые замедляют передовые компании и помогают мелким конкурентам.
- Открытые веса моделей, по мнению Амодеи, не решают проблему концентрации власти в ИИ, а лишь смещают её к тем, у кого больше всего вычислений и чипов.
Почему это важно
Спор вскрывает разлом внутри самой ИИ-индустрии: часть инвесторов и предпринимателей считает, что публичные предупреждения о рисках ИИ (в том числе от глав ведущих лабораторий) сами провоцируют регуляторное давление и общественное недоверие. Амодеи переворачивает причинность: не риторика лидеров формирует недоверие, а десятилетиями копившееся недоверие к крупным институтам вообще делает ИИ лёгкой мишенью. Формулировка «кризис доверия» также сдвигает ответственность с сообщений компаний на их реальные результаты, и тем самым задаёт рамку, в которой Anthropic и конкуренты будут защищать свою репутацию дальше. По словам Амодеи, недоверие всплывает и вокруг главы OpenAI Сэма Альтмана, то есть проблема касается отрасли в целом, не только Anthropic.
Кому это важно
Тем, кто следит за публичной политикой ИИ-компаний и за дебатами о регулировании: регуляторам и законодателям, которые формируют правила для ИИ-индустрии; инвесторам вроде Гэвина Бейкера, ставящим на быстрый рост ИИ-компаний без лишних ограничений; руководителям других лабораторий (OpenAI, Google DeepMind и др.), которые сталкиваются с тем же вопросом доверия; журналистам и аналитикам, пишущим о балансе риторики и реальных действий ИИ-компаний.
Как это применить
Материал не описывает продукт или инструмент, а фиксирует позицию Anthropic по регулированию: компания заявляет, что намеренно строит свои политические предложения так, чтобы замедлять именно передовые (frontier) ИИ-компании вроде себя самой, одновременно облегчая условия для более мелких конкурентов. Тем, кто отслеживает регуляторные инициативы в сфере ИИ, включая упомянутый калифорнийский закон о прозрачности для крупных ИИ-компаний, стоит держать в уме именно эту логику Anthropic при оценке будущих предложений компании.
Можно ли доверять
Материал построен на прямых цитатах из серии постов Амодеи (в ответ на слова инвестора Гэвина Бейкера на подкасте All-In и в X), источник даёт развёрнутые дословные цитаты обеих сторон, а не пересказ через третьи руки. При этом это позиция самого генерального директора Anthropic о своей же компании и своей риторике, оценивать её стоит как публичное самооправдание CEO, а не как независимый анализ.
Риски и подводные камни
Амодеи защищает собственную репутацию и репутацию Anthropic, поэтому его аргумент о «структурном кризисе доверия» удобен ему самому: он снимает прямую связь между его же предупреждениями об ИИ-рисках и общественным недоверием. Он также признаёт, что главная обоснованная претензия к Anthropic, невыполненные обещания принести пользу миру, но не приводит конкретных сроков или обязательств, по которым это можно будет проверить. Отдельный риск, в самой логике регулирования: Амодеи говорит, что Anthropic намеренно продвигает правила, замедляющие крупных конкурентов вроде неё самой, что можно прочитать и как заботу о балансе сил, и как способ закрепить собственное положение через регуляторные барьеры для крупных конкурентов.
«Я думаю, это фундаментально кризис доверия. Обычные люди не доверяют компаниям, государству и технологической индустрии и всегда подозревают, что мы затеваем какой-то новый способ их обмануть.»
— Дарио Амодеи, генеральный директор Anthropic