Я создал самосовершенствующийся ИИ, и вы тоже сможете

Сегодня топовые ИИ-лаборатории соревнуются в создании самосовершенствующихся моделей: по расхожему мнению, это самый верный путь к сверхразуму, ИИ, улучшающий сам себя в бесконечной петле, в итоге превзойдёт человеческое понимание, а возможно, и контроль человека над собой. У автора рассылки Wired «AI Lab» Уилла Найта задача куда приземлённее, вовремя выпускать очередной номер. Он решил проверить, не пригодится ли рекурсивное самоулучшение и для его целей: можно ли с помощью ИИ обучить и постоянно дорабатывать модель, которая возьмёт на себя часть рутины рассылки. После примерно недели экспериментов ответ, по его словам, оказался однозначным и неожиданным, да.

Первый эксперимент Найт провёл с инструментом AutoResearch, детищем Андрея Карпати, экс-сооснователя OpenAI и бывшего руководителя ИИ-направления в Tesla, который сейчас работает в Anthropic. AutoResearch помогает готовой ИИ-модели самостоятельно обучать и улучшать модель поменьше. Найт запустил Claude с инструкцией «открой program.md и запусти новый эксперимент», предоставил вычислительную мощность, настольный «суперкомпьютер» Nvidia DGX для ИИ-экспериментов, и электричество, а также разрешил модели пропускать обычные проверки разрешений, чтобы та действовала автономно. Каждые несколько часов он проверял ход эксперимента: Claude сама подбирала параметры и режимы обучения и смотрела, как это меняет результат маленькой модели. Ранняя версия этой модели, которую попросили закончить фразу «В начале…», выдавала малосвязный текст с бесконечными повторами; более поздние версии, автономно доработанные Claude, стали связнее. До уровня GPT-5 таким моделям далеко, но путь к постепенному самоулучшению выглядел многообещающе.

Второй эксперимент Найт провёл с сервисом стартапа Prime Intellect, который использует ИИ для обучения кастомных моделей под конкретную задачу. Он собрал около 100 своих старых заметок из рубрики рассылки «Elsewhere on the frontier of AI» (короткая подборка интересных исследований), создал в Prime Intellect обучающую среду и попросил Claude помочь построить модель, она получила имя Frontier_Paper_Curator, для поиска и суммаризации научных статей. Claude сама находила статьи, генерировала синтетические данные для обучения и задействовала ещё одну модель, чтобы оценивать качество результатов Frontier_Paper_Curator, а обучающая среда параллельно улучшала модель методом обучения с подкреплением.

Глава Prime Intellect Винсент Вайссер (компания недавно привлекла $15 млн финансирования) говорит, что цель стартапа, сделать рекурсивное самоулучшение доступным не только топ-лабораториям, но и любой компании: модели грандов индустрии, может, и блестящи, но демократизация такого обучения способна дать не менее сильные узкоспециализированные модели. Prime Intellect не единственный, кто ставит на этот сценарий: другой стартап, Adaption, предлагает инструмент AutoScientist, автоматизирующий обучение ИИ-моделей. По словам главы Adaption Сары Хукер, компания уже работает с несколькими крупными клиентами, которые тратят множество токенов, но не имеют собственных ИИ-специалистов.

Найт указывает и на риски такого подхода. Разрешение модели пропускать обычные проверки безопасности он сам называет «возможно, не самым разумным решением». Есть и системный риск: когда Anthropic заблокировала часть запросов к своей новейшей модели Fable 5, это обнажило опасность чрезмерной зависимости от одной топ-лаборатории. Алекс Карп из Palantir предупреждал, что работа с топ-лабораториями означает передачу им собственных данных и контроля над своей технологией.

Конечная цель рекурсивного самоулучшения, чтобы ИИ сам придумывал новые идеи для модели и приходил к собственным выводам; инструменты, доступные обычным пользователям, куда скромнее, но всё равно впечатляют. Меньше чем за день работы с Prime Intellect Найт получил на удивление приличную модель для поиска и суммаризации исследований. Правда, по его признанию, она пока чересчур усердствует, выбирает больше статей, чем он сам оставил бы, а её резюме получаются несколько шаблонными. Тем не менее для первой попытки результат многообещающий.

Ключевые факты

Обозреватель Wired Уилл Найт за неделю экспериментов построил две модели с рекурсивным самоулучшением, чтобы автоматизировать рутину своей рассылки «AI Lab».
Эксперимент №1, инструмент AutoResearch (детище Андрея Карпати, экс-сооснователя OpenAI и экс-главы ИИ-направления в Tesla, ныне сотрудника Anthropic): Claude самостоятельно обучала и улучшала маленькую языковую модель на настольном суперкомпьютере Nvidia DGX, причём автор разрешил ей пропускать обычные проверки разрешений.
Эксперимент №2, сервис стартапа Prime Intellect: на ~100 старых заметках рубрики рассылки Claude помогла обучить модель Frontier_Paper_Curator для поиска и суммаризации научных статей, используя синтетические данные и обучение с подкреплением.
Глава Prime Intellect Винсент Вайссер (компания недавно привлекла $15 млн) заявил, что цель стартапа, сделать рекурсивное самоулучшение доступным любой компании, а не только топ-лабораториям; похожий инструмент AutoScientist предлагает стартап Adaption.
Риски: блокировка Anthropic части запросов к модели Fable 5 показала опасность зависимости от одной лаборатории; Алекс Карп из Palantir предупреждал, что работа с топ-лабораториями означает передачу им данных и контроля над технологией.

Почему это важно

Рекурсивное самоулучшение моделей, идея, вокруг которой строится гонка топовых ИИ-лабораторий, обещающих в пределе сверхразум. Опыт Найта показывает: похожий процесс, когда ИИ сам обучает и дорабатывает другую модель, уже доступен не только гигантам вроде OpenAI или Anthropic, но и одиночке с десктопным Nvidia DGX и подпиской на пару стартап-сервисов. Это расшатывает нарратив об одном централизованном «богоподобном» интеллекте и открывает путь к множеству узкоспециализированных моделей, именно так формулирует свою ставку Prime Intellect.

Кому это важно

В первую очередь, независимым авторам, небольшим командам и компаниям без своих ИИ-специалистов, которые тратят много токенов на типовые задачи (по словам главы Adaption Сары Хукер, таких клиентов у стартапа уже немало) и хотели бы получить не универсальную, а узкоспециализированную модель под конкретную задачу, не завися полностью от одной топ-лаборатории.

Как это применить

Найт описывает два конкретных маршрута. Первый, AutoResearch: дать Claude инструкцию открыть program.md и «запустить эксперимент», подключить своё железо (в его случае, Nvidia DGX) и позволить модели самой подбирать параметры обучения, проверяя прогресс раз в несколько часов. Второй, обучающая среда Prime Intellect: собрать собственный корпус примеров (у Найта, около 100 прошлых заметок рассылки), попросить Claude построить и обучить специализированную модель, используя синтетические данные и оценку результата другой моделью; с обучением с подкреплением результат может быть готов меньше чем за день.

Можно ли доверять

Это личный опыт одного журналиста, а не контролируемое исследование, и Найт сам честно фиксирует слабые места: ранние версии модели из AutoResearch выдавали малосвязный текст, а итоговая модель Frontier_Paper_Curator из Prime Intellect всё ещё выбирает лишние статьи и пишет несколько шаблонные резюме, до продукции топ-лабораторий им далеко. Цитаты глав Prime Intellect и Adaption стоит воспринимать с поправкой на то, что оба заинтересованы в продвижении своих платформ.

Риски и подводные камни

Автор признаёт, что разрешил модели «пропускать обычные проверки разрешений» ради автономности, решение он сам называет «возможно, не самым разумным». Есть и системный риск зависимости от одной лаборатории: блокировка Anthropic части запросов к модели Fable 5 обнажила уязвимость тех, кто полагается на единственного поставщика ИИ; Алекс Карп из Palantir предупреждал, что сотрудничество с топ-лабораториями означает передачу им своих данных и контроля над технологией. К этому добавляется незрелость самих результатов, их качество пока далеко от продакшн-уровня.

«Мы не хотим одного централизованного, почти божественного интеллекта, мы хотим миллиард интеллектов, которые расходятся по всем нишам и создают прекрасные вещи.»

— Винсент Вайссер, глава Prime Intellect