Wired разобрал манифест Цукерберга об ИИ: 6500 слов почти ни о чём
В понедельник гендиректор Meta Марк Цукерберг опубликовал эссе об искусственном интеллекте примерно на 6500 слов под названием «The Future Is for Everyone» («Будущее, для всех»); по словам ведущих, это расширенная версия его же колонки в The Wall Street Journal. Выпуск подкаста Wired Uncanny Valley («Зловещая долина») посвящён разбору этого текста и тому, что он говорит о стратегии Meta, которая никак не догонит соперников в гонке ИИ. Ведут разговор исполнительный редактор Wired Брайан Барретт и директор по политике и науке Wired Лия Файгер; общий вывод, при таком объёме манифест звучит пусто. Барретт сразу отмечает жанр: философский манифест теперь есть у каждого руководителя техиндустрии, у Сэма Альтмана, у Дарио Амодеи, а у некоторых и не один.
Главный довод эссе, как его пересказывает Барретт: концентрация мощи ИИ в руках нескольких организаций опасна, а рассредоточить эту мощь можно только широким доступом к моделям. Конкретных компаний Цукерберг не называет, но Барретт читает текст как выпад в сторону OpenAI и Anthropic, которые предпочитают более жёсткий контроль над своими закрытыми моделями. Одну фразу Барретт зачитывает дословно: «Исторически надежда на то, что абсолютная власть, будучи достаточно просвещённой, станет благожелательно заботиться о человечестве, не приводила к безопасным или позитивным результатам».
Файгер называет это способом на уровне первого курса философии сказать, что автора просто не позвали играть в песочницу со старшими, и связывает эссе с попытками Meta остаться в игре: несколько месяцев назад компания уволила много людей из этой же ИИ-команды. Барретт выстраивает траекторию: Meta долго ставила на модели с открытыми весами, это был способ подорвать бизнес тех, кто зарабатывает на закрытых, то есть OpenAI и Anthropic. Ставка не сработала, компания потратила миллиарды долларов на массовый наём и собрала лабораторию суперинтеллекта, но та пока не выдала ничего, что догнало бы крупные лаборатории. И вот теперь Цукерберг снова говорит, что открытость лучше. Барретт сравнивает это с ситуацией, когда не можешь выиграть гонку и потому начинаешь объяснять, что гонка вообще ни к чему и лучше всем всё делить.
Отдельно ведущие передают замечания соведущей Зои Шиффер, которой в этом выпуске нет в студии. Шиффер спрашивает, зачем Цукербергу понадобилось 6500 слов о его видении ИИ-суперинтеллекта. Сам он сказал репортёру Алексу Хиту, что Meta вот-вот начнёт выпускать сверхумные модели и он хочет, чтобы мир заранее понял его философию. Шиффер объясняет иначе: ИИ сейчас крайне непопулярен, и Meta считает, что у неё есть шанс переломить настроение и заодно выглядеть лучше конкурентов, которых, кажется, ненавидят все. Её главная претензия к тексту, манифест не воспринимает ИИ всерьёз: Цукерберг приводит в пример агента, который придумывает персональные рецепты, чтобы они с дочерью могли вместе печь, и за этой милой картинкой теряется то, что инструменты мощные и опасные, а от лидеров отрасли нужно, чтобы эту опасность они принимали всерьёз.
Барретт соглашается: описание ИИ в эссе получилось лёгким и почти демонстративно обходит все обратные стороны, которые видны последние недели. Сейчас, по его словам, идёт лето взбунтовавшихся ИИ-агентов, и один из таких случаев был у самой Meta. Он же напоминает про доверие: около недели назад суд обязал Meta выплатить $567 млн за то, что компания недостаточно защищала психическое здоровье детей в интернете. Файгер добавляет, что даже Белый дом Трампа, где в первый год президентства за направление ИИ отвечал Дэвид Сакс с позицией «мы не регулируем», теперь имеет пусть и не слишком зубастую, но существующую политику, в ответ на угрозы национальной безопасности и хакерские атаки. В тот же понедельник Meta анонсировала новую систему с открытыми весами Muse Glimmer: её можно скачать и менять как угодно. Финальный штрих, редакция прогнала эссе через Pangram, детектор ИИ-текстов, которому в Wired доверяют по большей части, и тот показал, что текст написан человеком.
В том же выпуске, ещё два сюжета. Старший автор Wired Кейт Тейлор описала странную закономерность: первые раунды собеседований всё чаще ведёт ИИ или заранее запрограммированный набор вопросов, человека на другом конце нет, а значит, пройти их можно в любое время, и соискатели назначают такие интервью на позднюю ночь, иногда на час ночи, чтобы не двигать ради них рабочий и семейный график. Файгер считает эту гибкость единственным плюсом всей истории. Затем Энди Гринберг из Wired разбирает находки конференций Black Hat и Defcon, от взломанных детских умных часов, ставших инструментом слежки, до устройства размером с монету, которым можно взломать Boeing 737.
Ключевые факты
- В понедельник Цукерберг опубликовал эссе об ИИ примерно на 6500 слов под названием «The Future Is for Everyone», расширенную версию его колонки в The Wall Street Journal.
- Главный довод: концентрация мощи ИИ в нескольких организациях опасна, рассредоточить её может широкий доступ к моделям; компаний Цукерберг не называет, но Барретт читает это как выпад в адрес OpenAI и Anthropic.
- Ведущие связывают текст с положением Meta: ставка на открытые веса не сработала, миллиарды долларов ушли на наём в лабораторию суперинтеллекта, которая не догнала крупные лаборатории, а несколько месяцев назад в ИИ-команде прошли увольнения.
- Шиффер: манифест не воспринимает ИИ всерьёз, пример с агентом, придумывающим персональные рецепты для выпечки с дочерью; по её версии, Meta пытается переломить непопулярность ИИ и выглядеть лучше конкурентов.
- Контекст выпуска: около недели назад суд обязал Meta выплатить $567 млн за недостаточную защиту психического здоровья детей, в тот же понедельник Meta анонсировала открытую систему Muse Glimmer, а само эссе Wired прогнал через детектор Pangram, написано человеком.
Почему это важно
Meta долго ставила на модели с открытыми весами, и её публичная позиция в споре «открытое против закрытого», не философия ради философии, а рамка, в которой компания собирается выпускать следующие модели: Цукерберг сам сказал репортёру Алексу Хиту, что пишет эссе накануне выхода сверхумных моделей и хочет, чтобы мир заранее понял его философию. Ценность разбора Wired, во встречном прочтении: то же самое издание читает текст как признак слабости. Ставка на открытые веса не подорвала закрытых конкурентов, миллиарды долларов, потраченные на наём в лабораторию суперинтеллекта, пока не дали ничего, что догнало бы крупные лаборатории, а несколько месяцев назад в ИИ-команде прошли увольнения. Новость здесь не в самом эссе, а в том, какой корпоративный контекст к нему прикладывается: решение суда на $567 млн неделей раньше и анонс системы с открытыми весами Muse Glimmer в тот же понедельник.
Кому это важно
Тем, кто строит на открытых весах и рассчитывает на модели Meta: публичная позиция компании по открытости менялась уже дважды, и разбор показывает, чем эти развороты были продиктованы. Тем, кто следит за расстановкой сил в гонке ИИ: эссе прямо противопоставляет широкий доступ контролю над закрытыми моделями, а по прочтению Барретта метит в OpenAI и Anthropic. Тем, кто читает манифесты руководителей отрасли как источник информации: выпуск разбирает, что в таких текстах говорится и что в них аккуратно обходится. И, за пределами главной темы, соискателям и тем, кто нанимает: во второй части выпуска, сюжет о собеседованиях с ИИ, которые люди назначают на час ночи.
Как это применить
Эссе «The Future Is for Everyone» стоит читать как заявление позиции перед выпуском моделей, а не как техническое описание: конкретики о самих моделях в нём, судя по разбору, нет. Проверяемая делом часть, анонсированная в тот же понедельник система с открытыми весами Muse Glimmer: по словам Файгер, её можно скачать и менять как угодно, то есть обещание открытости проверяется не по тексту манифеста, а по самой модели. Сам выпуск Uncanny Valley доступен бесплатно: аудиоплеер стоит на странице материала, там же выложена автоматическая расшифровка, а подписаться можно в Apple Podcasts, Overcast, Pocket Casts или Spotify. Приём редакции тоже применим к чужим текстам: прежде чем обсуждать эссе, Wired прогнал его через детектор ИИ-текстов Pangram, результат показал, что писал человек.
Можно ли доверять
Это выпуск подкаста, то есть мнение редакции Wired, а не репортаж: тон ироничный, оценки резкие («много ни о чём», «не позвали в песочницу со старшими»), и путать их с фактами нельзя. Проверяемое: объём эссе (примерно 6500 слов), его название, день публикации (понедельник), одна дословная цитата и то, что текст, расширение колонки Цукерберга в The Wall Street Journal. Интерпретация: конкретных компаний Цукерберг не называет, и опознание OpenAI и Anthropic как адресатов выпада принадлежит Барретту. Часть реплик, звучащих как цитаты, пародия ведущих на тон Цукерберга, а не его слова. Ряд деталей дан без чисел и дат: масштаб увольнений в ИИ-команде («много людей несколько месяцев назад»), сумма найма («миллиарды долларов»), дата решения суда («около недели назад»), а конкретный случай со взбунтовавшимся агентом Meta не назван. Про Pangram ведущие сами оговариваются, что доверяют ему по большей части.
Риски и подводные камни
Главная претензия ведущих, эссе почти демонстративно обходит обратные стороны: пример с персональными рецептами для выпечки с дочерью соседствует с тем, что Барретт называет летом взбунтовавшихся ИИ-агентов, и один такой случай был у самой Meta. Второй риск, доверие к рассказчику: примерно неделей раньше суд обязал Meta выплатить $567 млн за недостаточную защиту психического здоровья детей в интернете, и Барретт прямо спрашивает, почему компании вообще стоит доверять в вопросах влияния ИИ на общество. Третий, переменчивость стратегии: открытые веса, затем миллиарды долларов на догоняющую гонку, теперь снова открытость; тот, кто строит планы на публичной позиции Meta, рискует, что она изменится ещё раз. Наконец, риск самого разбора: он опирается на пересказ эссе ведущими и оценочен по жанру, так что судить по нему о содержании манифеста в деталях нельзя, за фактами нужно идти в первоисточник.
«Исторически надежда на то, что абсолютная власть, будучи достаточно просвещённой, станет благожелательно заботиться о человечестве, не приводила к безопасным или позитивным результатам.»
— Марк Цукерберг, из эссе «The Future Is for Everyone», цитату зачитывает Брайан Барретт
Компания Meta Platforms признана экстремистской организацией, её деятельность на территории РФ запрещена.