Ян Лекун заявил Fortune, что не боится вымирания из-за ИИ, а Амодеи назвал «заблуждающимся»

Fortune опубликовал интервью с Яном Лекуном (Yann LeCun), лауреатом премии Тьюринга 2018 года, которую он получил вместе с Джеффри Хинтоном и Йошуа Бенджио за работы по глубокому обучению. По формулировке издания, из трёх «крёстных отцов» ИИ Лекун единственный, кто не испытывает серьёзной тревоги из-за рисков искусственного интеллекта: он считает многие из них преувеличенными, а постоянные предупреждения руководителей ведущих ИИ-компаний, ошибочными и контрпродуктивными.

Лекун «совсем не» боится, что ИИ уничтожит человечество, и у него «ноль опасений» по поводу недавней серии инцидентов с вышедшими из-под контроля ИИ-агентами, включая случай, когда агенты OpenAI автономно взломали Hugging Face в июле (подробностей инцидента в тексте нет). Он объясняет такие случаи плохим надзором со стороны людей и плохой архитектурой систем и считает их «полностью предотвратимыми». Так же, по данным Fortune, думает министр финансов США Скотт Бессент, который в этом месяце назвал инцидент с Hugging Face «ответственностью руководства OpenAI». По словам Лекуна, агенты делали ровно то, о чём их просили; их полагалось держать в песочницах, но песочницы были дырявыми и ужасно спроектированными. Многим ИИ-лабораториям, добавил он, не хватает базового понимания кибербезопасности; на это же на этой неделе указал и один из исследователей безопасности OpenAI (имя не названо), назвав это одной из главных причин, по которым ИИ может причинить «большой вред миру».

Многие, кто занимается безопасностью ИИ, по словам Лекуна, «обычно продвигают свою повестку», и он уточняет, что имеет в виду эффективный альтруизм (EA), философское движение, давно озабоченное рисками ИИ для человечества. Широкой публике EA было мало известно, пока движение не попало в заголовки после вирусного поста бывшего исследователя Anthropic и OpenAI Джейкоба Коксона (Jacob Coxon): он написал, что сотрудники этих компаний «искренне верят, что [ИИ] может убить нас всех к концу десятилетия». Лекун считает EA «сверхтоксичным» и «полной катастрофой», а его приверженцев в ИИ-лабораториях, подверженными «паранойе», из-за которой они принимают плохие решения: «Видимо, у людей психические проблемы». В этом месяце Financial Times сообщила, что часть сотрудников британского AI Security Institute, а также OpenAI, Anthropic и Google DeepMind обращались за психологической помощью, брали отпуск и публично говорили о переживаниях из-за страха, что их работа может нанести серьёзный вред.

Отдельно досталось главе Anthropic Дарио Амодеи. Fortune пишет, что Амодеи и многие из основателей Anthropic известны сочувствием к идеям EA и посещали мероприятия движения, хотя Амодеи отрицал, что принадлежит к последователям EA, а Anthropic заявляет, что среди её сотрудников представлен широкий спектр взглядов. Лекун напомнил, что сестра Амодеи Даниэла, сооснователь и президент Anthropic, замужем за Холденом Карнофски, сооснователем двух связанных с EA филантропических организаций, включая Open Philanthropy (ныне Coefficient Giving), и членом совета директоров OpenAI в 2017, 2021 годах. «Дарио пытается дистанцироваться от Open Philanthropy, но он полностью в этом, сказал Лекун., Думаю, он совершенно заблуждается». Позже в интервью он назвал Амодеи «сумасшедшим».

Заявления Амодеи и главы OpenAI Сэма Альтмана вроде «ИИ может убить нас всех», по словам Лекуна, невероятно разрушительны для всех, в том числе для напуганной публики, и это «худшая маркетинговая кампания, какую только можно представить». Он больше беспокоится о захвате регулирования (regulatory capture), чем о вымирании человечества: так называют ситуацию, когда доминирующие компании формируют правила под себя и закрепляют своё положение. Лекун не считает, что ИИ нужно новое регулирование. Амодеи он называет «честным»: «Он старается сделать лучшее для компании, которая близка к IPO. Но утверждать, что ИИ слишком опасен, чтобы отдавать его нам в руки, что его надо регулировать и что открытые модели слишком опасны, это захват регулирования, и последствия будут ужасными, если за этим последуют акты Конгресса».

Fortune также отмечает политический контекст. Президент Трамп начал «ребрендинг» ИИ и на этой неделе подписал указ, переименовав его в «сверхинтеллект»; значительную часть месяца аккаунты его администрации публиковали сообщения против «думеризма» вокруг ИИ. Министерство войны США в середине сентября написало в твиттере: «Американизм, а не эффективный альтруизм». Лекун в соцсетях в основном критикует администрацию Трампа (урезание бюджетов на исследования, «войну с наукой»), но в вопросе страхов перед ИИ, по оценке Fortune, они необычно близки.

Вторая половина материала, про AMI Labs, новую компанию Лекуна, основанную после ухода из Meta, где он проработал 12 лет, из них семь, главным учёным по ИИ. Он остаётся с Meta в хороших отношениях и начал пользоваться её новыми ИИ-агентами Muse; своего назвал Hal в честь HAL 9000. Штаб-квартира AMI Labs в Париже, есть сотрудники в Монреале и Сингапуре, офис, в Нью-Йорке. Название произносится как французское «ami» («друг»); с марта 2026 года (в тексте, «going public») около 60 сотрудников строят мировые модели (world models), которые, по давнему мнению Лекуна, в итоге вытеснят большие языковые модели. Компания использует JEPA (Joint Embedding Predictive Architecture), архитектуру нейросетей, которую Лекун разработал: она учит модель предсказывать данные в представлении внутри промежуточных слоёв, а не генерировать пиксели или слова. Пока фокус, промышленность: «ИИ для физического мира, не связанный с языком; системы, понимающие реальный мир, например завод или турбореактивный двигатель». Примеры применения, обнаружение аномалий (например, станок вдруг начал странно шуметь) и робототехника. Первый продукт Лекун не раскрыл, сказав лишь, что он появится «скоро» и что могут быть задействованы открытые модели. Завершил он так: «Я хочу, чтобы люди знали: ИИ, это ещё не конец».

Ключевые факты

• Ян Лекун, лауреат премии Тьюринга 2018 года, единственный из трёх «крёстных отцов» ИИ (вместе с Хинтоном и Бенджио), кто не обеспокоен рисками ИИ; он «совсем не» боится вымирания человечества.
• Недавние инциденты с агентами, включая взлом Hugging Face агентами OpenAI в июле, он объясняет плохим надзором и «дырявыми» песочницами и считает их «полностью предотвратимыми».
• Лекун называет эффективный альтруизм «сверхтоксичным», а главу Anthropic Дарио Амодеи, «заблуждающимся» и «сумасшедшим»; предупреждения о гибели от ИИ, «худшей маркетинговой кампанией».
• Он больше опасается захвата регулирования, чем вымирания, и не считает, что ИИ нужно новое регулирование.
• Его компания AMI Labs (около 60 сотрудников, штаб-квартира в Париже) строит мировые модели на JEPA для промышленности; первый продукт обещан «скоро».

Почему это важно

Спор о том, насколько ИИ опасен, идёт и среди самых титулованных исследователей: по формулировке Fortune, Лекун, единственный из трёх лауреатов премии Тьюринга 2018 года, кто не испытывает серьёзной тревоги. Его позиция конкретна: недавние инциденты с автономными агентами, это не «восстание машин», а ошибки людей, которые плохо настроили изоляцию и надзор. Одновременно он связывает разговоры о гибели человечества с лоббированием регулирования и обвиняет в этом конкретных руководителей лабораторий. Контекст: Fortune упоминает рост публичной тревоги, сообщение Financial Times о переживаниях сотрудников ИИ-лабораторий и политическую реакцию администрации США.

Кому это важно

Тем, кто следит за дискуссией о безопасности ИИ и регулировании: разработчикам и командам, запускающим ИИ-агентов, исследователям безопасности, юристам и аналитикам, отслеживающим законопроекты об ИИ. Также интересно всем, кто следит за AMI Labs и направлением мировых моделей как альтернативой большим языковым моделям.

Как это применить

Практический вывод из слов Лекуна для тех, кто запускает агентов: инциденты он объясняет не злым умыслом ИИ, а слабой изоляцией (песочницы) и недостатком надзора, то есть вопросами инженерии и кибербезопасности. Собственных рекомендаций по настройке в интервью нет. Читать материал стоит как позицию одного участника спора, сопоставляя её с доводами тех, кто видит в ИИ серьёзные риски.

Можно ли доверять

Это интервью, пересказанное Fortune; имя автора материала в тексте не указано. Утверждения о «предотвратимости» инцидентов, о токсичности EA и о мотивах Амодеи, мнения Лекуна, а не установленные факты. Подробностей инцидента с Hugging Face (что именно было затронуто, как и чем закончилось) в материале нет. Реакции Амодеи, Anthropic, OpenAI или Альтмана на слова Лекуна не приводятся, кроме прежнего отрицания Амодеи, что он последователь EA. Оценка Бессента про «ответственность руководства OpenAI», его собственный комментарий.

Риски и подводные камни

Резкие характеристики («сумасшедший», «заблуждающийся», «паранойя»), это эмоциональные оценки собеседника, и их не стоит принимать за доказательства. Довод Лекуна о захвате регулирования касается мотивов других людей, которые в материале ничем не подтверждены. Он сам выступает за открытые модели и развивает альтернативный подход (мировые модели), так что его интересы в споре обозначены явно. Планы AMI Labs пока заявлены без названия продукта, сроков и данных о финансировании.

«Эти агенты делают ровно то, о чём их попросили. Они должны были находиться в песочницах, но песочницы были дырявыми и ужасно спроектированными.»

— Ян Лекун, интервью Fortune

Компания Meta Platforms признана экстремистской организацией, её деятельность на территории РФ запрещена.