Тим О'Райли: ИИ-гиганты неверно поняли, чего хотят люди

Wired опубликовал интервью Стивена Леви (рассылка Backchannel) с Тимом О'Райли, издателем, интернет-визионером, венчурным инвестором и организатором конференций. О'Райли много лет мерит ценность компании, человека или общества правилом «создавай больше ценности, чем присваиваешь», и применяет это правило к тому, как устроен и используется ИИ.

Его главный тезис: открытый ИИ, это не только открытые веса нейросети. Открывать нужно весь стек, модель, промежуточный слой (harness) и приложение, с чётким разделением между ними, чтобы разработчики и пользователи могли встраивать в систему собственные решения, а не быть привязанными к одному продукту. О'Райли проводит параллель с Microsoft 1990-х: по его мнению, сегодняшние гиперскейлеры так же стремятся привязать пользователей к своим продуктам, выстраивая, по его словам, «архитектуру контроля» вместо «архитектуры свободы и участия», и получая тем самым возможность отслеживать пользователей.

Он считает, что крупные лаборатории неверно читают будущее: они исходят из того, что обладание самой большой и лучшей моделью, ключ к успеху, хотя на деле топовые модели становятся лучше в одних задачах и хуже в других. О'Райли ссылается на разговоры о том, что модели Fable и Sol, судя по редакторской вставке Wired, с этим не согласны в Anthropic и OpenAI, уступают в качестве письма менее мощным моделям.

Один из ключевых рисков, которые видит О'Райли: США могут выиграть гонку за самые мощные («передовые») модели и всё равно проиграть Китаю, если тот шире распространит по обществу более простые, доступные модели. На довод о том, что открытые модели, угроза безопасности, поскольку злоумышленники смогут обходить ограничения, он отвечает: все известные на сегодня инциденты с кибербезопасностью произошли из-за передовых моделей, а значит, это довод за то, чтобы притормозить именно их развитие, а не ограничивать открытые веса.

О'Райли не берётся предсказывать будущее, но говорит, что мир движется в ту сторону, на которую он надеялся: топовые модели рискуют повторить судьбу мейнфреймов и суперкомпьютеров, остаться инструментом для действительно сложных задач, а не тем, что расходится по всему обществу. Он указывает на такие проекты, как открытый агентный промежуточный слой Pi, и на инициативу «открытого консорциума памяти» своего некоммерческого AI Disclosures Project, как на альтернативу тезису Марка Цукерберга о том, что Meta удержит пользователей, предложив им ИИ, который знает их лучше всех. По О'Райли, открытый подход должен дать людям возможность менять модели и провайдеров, сохраняя весь накопленный контекст.

Он также описывает Кремниевую долину как по сути «антикапиталистическую»: примерно с 2010 года, на примере Uber и Lyft, победителя стали определять не рынок, а венчурные инвесторы, которые тратили миллиарды на субсидирование поездок, чтобы продавить своего фаворита. Тот же шаблон, считает он, повторяется в ИИ, деньги стекаются в горстку компаний, но ни одна так и не получила монопольного положения, потому что сама модель финансирования не работает. Реальное будущее, по его прогнозу, это волна инноваций вне венчурного финансирования, как в начале 1990-х, когда все боролись за господство на рынке ПК, а вместо этого «из ниоткуда» появился веб.

О'Райли приводит и личный пример: книжный бизнес его компании O'Reilly Media на пике приносил около $70 млн, а сейчас, около $30 млн, и падает уже 25 лет. Он говорит, что ИИ теперь «пылесосит» контент, и компания ищет способ платить экспертам за то, что они делятся знаниями. Здесь же, расхождение с интервьюером: Стивен Леви говорит, что не будет использовать ИИ для сокращения этого интервью и для написания вступления к нему, это редакционная политика издания. О'Райли считает такой подход пережитком, который со временем уйдёт: сам он использует ИИ как «партнёра по мышлению», для мозгового штурма и для того, чтобы превращать часовые интервью в связный текст, а не для того, чтобы писать за него. Он сравнивает ИИ с новым творческим инструментом, как краски или камера, и не считает, что тот вытеснит человеческое письмо.

Ключевые факты

Тим О'Райли в интервью Wired (рассылка Backchannel Стивена Леви) говорит, что крупные ИИ-лаборатории неверно оценивают будущее, делая ставку на самую большую и мощную модель вместо открытой, разделённой на слои архитектуры (модель + промежуточный слой + приложение)
Он предупреждает: США могут выиграть гонку за самые мощные модели и всё же проиграть Китаю, если тот шире распространит по обществу более простые, доступные модели
По его аргументу, все известные инциденты с кибербезопасностью связаны с передовыми моделями, а значит, это довод за их замедление, а не за ограничение открытых весов
О'Райли указывает на открытый агентный промежуточный слой Pi и на инициативу «открытого консорциума памяти» своего проекта AI Disclosures Project как на альтернативу стратегии Meta по удержанию пользователей
Личный пример из его бизнеса: книжное направление O'Reilly Media упало с примерно $70 млн на пике до примерно $30 млн за 25 лет спада, и ИИ теперь дополнительно «пылесосит» контент

Почему это важно

Это развёрнутая позиция влиятельной фигуры технологической индустрии против доминирующей стратегии крупных ИИ-лабораторий. О'Райли утверждает, что ставка на самую большую модель, стратегическая ошибка, и что будущее за открытой, разделяемой на слои архитектурой, дающей людям возможность встраивать свои решения и не быть привязанными к одному провайдеру. Это прямой вызов логике, которой сегодня следуют крупнейшие игроки рынка.

Кому это важно

Разработчикам и компаниям, которые выбирают между открытыми и закрытыми моделями при построении своих продуктов; сторонникам и исследователям открытого ИИ; тем, кто следит за конкуренцией США и Китая в области ИИ; читателям, интересующимся тем, как топ-менеджеры и мыслители индустрии видят её дальнейшее развитие.

Как это применить

Материал не даёт конкретного инструмента или продукта, это позиция и прогноз. Практический вывод для тех, кто строит ИИ-продукты: закладывать возможность разделения модели, промежуточного слоя и приложения и не завязывать продукт намертво на одного поставщика модели, чтобы сохранить свободу выбора и переключения в будущем.

Можно ли доверять

Это прямое интервью Wired (рассылка Backchannel Стивена Леви) с названным, публично известным человеком, Тимом О'Райли, чьи слова приведены от первого лица. Источник надёжный, но материал целиком состоит из личных оценок и прогнозов одного собеседника, а не из проверяемых фактов о происшедшем событии; издание само отмечает несогласие Anthropic и OpenAI с одним из его утверждений о качестве письма моделей. Дата самого разговора в тексте не указана.

Риски и подводные камни

Ключевой риск, принять личные прогнозы О'Райли за установленный факт: утверждения о будущем превосходстве Китая, о происхождении всех киберинцидентов именно из передовых моделей и о судьбе крупных моделей как «мейнфреймов будущего», это его собственные оценки, не подкреплённые в тексте цифрами или ссылками на данные. Названные им модели, Fable и Sol, и текст прямо не указывает, какой компании какая из них принадлежит.

«Нет-нет, дело в архитектуре системы. Даёт ли она возможность участвовать?»

— Тим О'Райли, интервью Wired (рассылка Backchannel Стивена Леви)

Компания Meta Platforms признана экстремистской организацией, её деятельность на территории РФ запрещена.