Глава Microsoft Наделла «поверил в AGI», в части экономики и политики

Глава Microsoft Сатья Наделла сказал, что он «AGI-pilled» (на сленге, проникся идеей AGI), но только в части того, как ИИ может резко изменить структуру экономики и как из-за этого может измениться политика. На круглом столе после своего выступления на Microsoft Ignite в Chase Center в Сан-Франциско он спросил: «Я AGI-pilled в том смысле, что на уровне экономики встаёт вопрос: как устроена политическая экономия вокруг AGI?»
Сознательными передовые модели вроде Claude Наделла не считает: «Не думаю», сказал он. При этом он следует взгляду главы Microsoft AI Мустафы Сулеймана: компании не должны наделять модели правами и вести себя так, будто у них может быть моральный статус. Как пишет издание, компании вроде Anthropic поступают так из принципа. Сулейман говорил автору материала, что, по его мнению, команда Anthropic «wireheaded» (его слово), и что такой подход опасен. Сам Наделла выразился менее категорично: «Это хорошие дебаты. Я не отношусь к этому догматично». По его словам, главный социотехнический вопрос, как обеспечить, чтобы экономика могла широко распространить эту технологию.
Далее автор материала спросил, как Наделла думает об ИИ, после его ответа другому журналисту, который расспрашивал о том, что Anthropic выпускает больше продуктов в своём офисном пакете. Наделла долго говорил о возможном крахе экономики и конце демократии, если одной модели позволят достичь монопольного положения. «Если марксистский взгляд состоит в том, что останется только одна фирма, то всё кончено, верно? Для всех нас. Не только для меня. Вы тоже окажетесь в каком-то смысле филиалом Anthropic».
По его словам, большинство людей видит в происходящем конкуренцию технологических компаний, «что, конечно, так и будет», но у модели нет границ: она может стать медицинской или финансовой компанией, «может взять под контроль правительство». Считать это узкой борьбой за очередной триллион рыночной капитализации, «один из самых странных и узких способов смотреть на вопрос».
Наделла также сказал, что может измениться сама природа компаний: «Если у интеллекта есть сетевые эффекты, каково будущее фирмы?» Если модель видит и усваивает всё, а человеческий капитал по сути сворачивается в «токенный капитал», какова роль фирмы и человеческого капитала в ней? «Вот это и есть дебаты». Политическая экономия, по его мнению, станет всё интереснее: никто, по крайней мере в демократии, не сможет даже выиграть выборы, если всё пойдёт к тому, что есть только капитал и нет труда, «это не экономика».
Автор материала замечает, что так технологические директора обычно не говорят о выходе конкурирующего табличного редактора. Он же напоминает, что на Ignite Наделла продвигал ИИ-инструменты Microsoft: они обещают позволить корпоративным клиентам выбирать самые выгодные по стоимости модели под разные задачи, запускать собственные модели и по-разному контролировать свои данные. Идея в том, что рынок потребует множества разных моделей и суверенных данных, чтобы контроль не централизовался, к этой теме Наделла возвращался на протяжении беседы. Его формулировка: «Если вы считаете, что миру и экономике нужна не одна и не две фирмы, то по определению должно быть столько моделей, сколько фирм».
Ключевые факты
- Сатья Наделла на круглом столе после выступления на Microsoft Ignite в Chase Center (Сан-Франциско) назвал себя «AGI-pilled», в части экономики и политической экономии вокруг AGI.
- Передовые модели вроде Claude сознательными он не считает; следует взгляду Мустафы Сулеймана, что моделям не нужно давать права и приписывать моральный статус, но говорит об этом менее категорично, чем Сулейман.
- Он предупредил о крахе экономики и конце демократии, если одна модель получит монопольное положение; «марксистское» условие «только одна фирма» он назвал концом «для всех нас».
- Наделла задаётся вопросом о будущем фирмы: если у интеллекта есть сетевые эффекты, а человеческий капитал сворачивается в «токенный капитал», какова роль компаний и людей в них.
- Тезис о множестве моделей и суверенных данных совпадает с тем, что Microsoft продвигала на Ignite: выбор моделей под задачи, запуск собственных моделей, контроль над данными.
Почему это важно
Обычно руководители технологических компаний говорят о запусках и рыночной доле. Здесь глава Microsoft поднимает вопрос о политической экономии: что станет с демократией и трудом, если одна модель займёт монопольное положение. Наделла говорит это в разговоре, затронувшем продукты Anthropic в офисном пакете, и при этом оговаривает, что конкуренция технологических компаний, «конечно, будет». Важна и рамка: он называет узким взгляд на происходящее как на гонку за очередной триллион капитализации.
Кому это важно
Тем, кто следит за стратегией Microsoft и за отношениями крупных ИИ-игроков; корпоративным клиентам, выбирающим между моделями и размещением данных; тем, кого интересует дискуссия о моральном статусе моделей и о влиянии ИИ на труд и устройство компаний.
Как это применить
Прямого практического применения нет: это интервью, а не релиз. Единственная прикладная связка из текста, инструменты Microsoft, показанные на Ignite: они, как сказано, позволяют корпоративным клиентам выбирать более выгодные по стоимости модели под разные задачи, запускать свои модели и по-разному контролировать данные. Цен и условий в материале нет.
Можно ли доверять
Слова Наделлы переданы в материале The Verge прямой речью; автор в тексте не назван. Рассуждения о «токенном капитале» и будущем фирмы он подаёт как вопросы для дебатов, а не как прогноз. Фраза про «марксистский взгляд» условная: Наделла не утверждает, что Anthropic является или станет монополистом. Слова Сулеймана про «wireheaded» переданы автору в разговоре, без даты и обстановки. Отклика Anthropic в материале нет. Учитывайте и интерес рассказчика: Microsoft продвигает инструменты для многомодельного подхода, что автор прямо отмечает.
Риски и подводные камни
Это мнение руководителя, а не данные: в материале нет цифр, сроков и доказательств сценариев, о которых он говорит. Тезис «моделей должно быть столько же, сколько фирм» совпадает с коммерческой позицией Microsoft, поэтому его стоит читать как позицию участника рынка. Слова о сознании моделей, одна короткая реплика, которую сам Наделла смягчает («не отношусь догматично»), так что делать из неё выводы о политике компании рискованно.
«Если марксистский взгляд состоит в том, что останется только одна фирма, то всё кончено, верно? Для всех нас.»
— Сатья Наделла, глава Microsoft