Инженер Google: DeepMind не видит ускорения ИИ-исследований от самого ИИ
Инженер Google Хейдн Белфилд заявил, что Google DeepMind не наблюдает измеримого ускорения ИИ-исследований, вызванного самим ИИ, а самоулучшающийся ИИ остаётся далёкой перспективой. При этом значительная автоматизация уже идёт: нейросеть пишет более 75% кода для рабочих систем (production). Однако около 88% изменений кода всё равно требуют человеческого надзора или проверки, и каждое изменение просматривает человек перед отправкой, по словам Белфилда. Доля изменений, полностью делегированных ИИ, выросла с 7,5% до 11,9% (за какой период, не сказано).
Чем сложнее и длиннее задача, тем меньше вероятность, что ИИ справится с ней сам. В 1389 внутренних запусках агента Argon доля успехов без участия человека резко падала по мере роста сложности. По словам Белфилда, люди остаются необходимы для творческих исследований, проектирования новых экспериментов, диагностики тонких нестабильностей обучения и долгосрочного планирования. Опрос двенадцати старших исследователей DeepMind подтвердил эту картину: автоматизация выше всего для чётко поставленных, проверяемых задач и ниже всего для открытой научной генерации идей.
На внутреннем бенчмарке DeepMind RE-Bench, который включает 74 реалистичные задачи по ML-инженерии, Argon решает примерно половину. Это большой скачок по сравнению с Gemini 3.7 Flash (27%), но, как отмечает The Decoder, до почти идеального результата, который потребовался бы для полной автоматизации, всё ещё далеко.
Чтобы отслеживать прогресс системно, команда построила General Capability Index (GCI, общий индекс возможностей), охватывающий 123 модели и 92 бенчмарка. Возможности моделей Gemini растут устойчивым темпом около 0,1 пункта GCI в месяц, без значимого изменения скорости. То, что Gemini 4 Argon лежит немного выше линии тренда, команда объясняет увеличением вычислительных ресурсов и организационными вложениями, а не ускорением за счёт ИИ. Риск от автоматизации исследований силами ИИ сейчас оценивается как низкий, но команда строит инфраструктуру измерений, чтобы отслеживать признаки ускорения в будущем.
Не все в отрасли согласны с такой оценкой. Более 20 исследователей ИИ, среди них Джеффри Хинтон, Йошуа Бенжио и Якуб Пахоцкий из OpenAI, недавно предупредили в научной статье о возможном «взрыве интеллекта» (intelligence explosion). Они утверждали, что ИИ-системы могут автоматизировать все исследования и разработку в области ИИ в течение нескольких лет, сжав годы обычного прогресса в месяцы.
Ключевые факты
- По словам Хейдна Белфилда, DeepMind не видит измеримого ускорения ИИ-исследований, вызванного самим ИИ; самоулучшающийся ИИ остаётся далёкой перспективой.
- ИИ пишет более 75% кода для рабочих систем, но около 88% изменений всё равно требуют надзора или проверки человеком; доля полностью делегированных ИИ изменений выросла с 7,5% до 11,9%.
- В 1389 запусках агента Argon успех без участия человека резко падал с ростом сложности задач; на RE-Bench (74 задачи) Argon решает около половины против 27% у Gemini 3.7 Flash.
- Индекс GCI (123 модели, 92 бенчмарка) показывает рост около 0,1 пункта в месяц без заметного ускорения; риск команда оценивает как низкий.
- Более 20 исследователей, включая Хинтона, Бенжио и Пахоцкого, недавно предупредили о возможном «взрыве интеллекта», оценки в отрасли расходятся.
Почему это важно
Спор о том, начнёт ли ИИ ускорять собственную разработку, один из центральных в отрасли. Здесь вывод строится на внутренних данных одной из ведущих лабораторий: ИИ уже пишет большую часть кода, но заметного ускорения самих исследований команда не фиксирует. Противоположную позицию в тексте представляют более 20 исследователей, которые допускают автоматизацию всех исследований и разработки в области ИИ в течение нескольких лет.
Кому это важно
Тем, кто следит за темпами развития ИИ и спорами о рисках: исследователям, аналитикам, регуляторам и инвесторам. Также будет полезно командам, которые внедряют ИИ-агентов в разработку: данные DeepMind показывают, где автоматизация работает лучше всего (чётко поставленные, проверяемые задачи), а где слабее (открытые научные идеи, долгосрочное планирование).
Как это применить
Прямого практического руководства в материале нет. Как ориентир можно взять наблюдение из данных: доля задач, которые агент решает без человека, падает с ростом сложности и длительности, а надзор и проверка человеком сохраняются даже при высокой доле ИИ-кода. Оценивая агентов для своей команды, разумно мерить не только долю сгенерированного кода, но и долю изменений, прошедших без вмешательства человека.
Можно ли доверять
Материал, пересказ слов Белфилда в издании The Decoder; где и когда он опубликовал или представил выводы, в тексте не сказано. Бенчмарк RE-Bench, индекс GCI и запуски Argon, внутренние данные DeepMind, а вывод о низком риске делает сама команда, поэтому независимо проверить цифры по тексту нельзя. Опрос охватил всего двенадцать исследователей. Источник сам отмечает, что не все в отрасли согласны с такой оценкой.
Риски и подводные камни
Цифры 75% и 88% нельзя без оговорок складывать или сравнивать: в тексте не сказано, что они измерены за один период и на одной кодовой базе. Сроков, когда самоулучшающийся ИИ может появиться, источник не называет, только то, что это «далеко». Оценка «риск низкий» дана на сегодня: команда сама строит инфраструктуру, чтобы отслеживать признаки ускорения. Статья более 20 исследователей в тексте не названа и не датирована, ответа Google на неё нет.