DeepMind опубликовала эссе «Что после AGI»: четыре пути к ASI

DeepMind опубликовала эссе «Что после AGI»: четыре пути к ASI

На сайте institute.deepmind.com опубликовано эссе «What comes after AGI?» («Что наступит после AGI?»). Его главный тезис: раньше обсуждать мир после AGI (машин, равных человеку почти во всех когнитивных задачах) было преждевременно, но теперь, когда AGI «оказывается в пределах досягаемости», откладывать это нельзя. По словам авторов эссе, ИИ может продолжить развиваться нынешними темпами, а возможно и быстрее, в сторону искусственного общего сверхинтеллекта (ASI), хотя это «далеко не наверняка». Чтобы подготовиться, нужно описать возможные пути от AGI к ASI и построить строгие, надёжные способы отслеживать прогресс.

ASI в эссе определён как система, которая стабильно превосходит большие группы экспертов-людей в задачах, на которые у них ушли бы годы, тратя меньше ресурсов и времени, причём практически во всех задачах, интересных людям, а не в узких областях. Примеры: за долю времени сделать столько научного прогресса, сколько целая область науки, или за год добиться в проектировании чипов того, что под силу крупным компаниям. Узкие сверхчеловеческие системы уже есть (шахматы и го, предсказание структуры белков, доказательство теорем). Теоретические пределы интеллекта известны, и они далеко за пределами и нынешнего ИИ, и людей, но обширное пространство между человеческим уровнем и этими пределами «в основном не исследовано».

Центральная идея, «когнитивная индустриализация». Рост эффективных вычислений складывается из трёх факторов. Первый, удешевление железа: вычисления на доллар растут примерно в 1,5 раза в год на протяжении шести десятилетий (то есть через 18 месяцев те же вложения покупают вдвое больше вычислений). Второй, алгоритмическая эффективность: вычислений для обучения до заданного уровня качества требуется примерно в 3-6 раз меньше каждый год за последнее десятилетие, а эффективность на этапе применения модели (инференса) растёт примерно втрое в год. Третий, инвестиции: траты на ИИ-железо растут примерно в 2,5 раза в год за последние десять лет, а обучающие вычисления крупнейших передовых запусков, более чем в 4 раза в год. Произведение даёт рост глобального запаса эффективных вычислений не менее чем в 10 раз в год, в 10 миллиардов раз за десять лет. Если тренд сохранится, через десять лет на каждого агента, которого можно запустить сегодня, можно будет запускать больше агентов того же качества, чем людей в мире.

Отдельно авторы считают стоимость: только за счёт эффективности железа и инференса потребность в вычислениях для той же задачи падает примерно в 4 раза в год, и когнитивная работа, которая сегодня стоит $1 млрд в токенах, через десять лет стоила бы $1000. По недавнему исследованию Epoch, потребительская цена достижения фиксированного результата на наборе тестов падает более чем в 13 раз в год с 2023 года. Отсюда вывод: многие когнитивные задачи «могут вскоре» превратиться в стандартный массовый товар, подобно тому как механизация превратила рутинный физический труд в товар. Это не гарантировано: практические потолки наращивания вычислений и более умозрительные потолки алгоритмической эффективности всё же могли бы позволить увеличить эффективную «популяцию» сегодняшних ИИ-агентов более чем в тысячу раз к 2030 году и более чем в миллиард раз за десять лет.

Хватит ли одного масштаба для ASI? Авторы осторожны: если «заморозить» остальные направления и лишь увеличить скорость и число сегодняшних ИИ, результат может не дотянуть даже до полноценного AGI, так как часть задач по-прежнему потребует помощи человека. Но если уровень человека достигнут, то разница между медленными дорогими системами и миром, где миллиарды агентов работают намного быстрее людей, огромна, и этот количественный скачок «сам по себе может оказаться достаточным», чтобы преодолеть качественный разрыв между AGI и «слабым» ASI. Цифровой интеллект выигрывает от вычислений иначе, чем человек: скорость обработки, память и запоминание (модели могут буквально запоминать большие части интернета), независимость от носителя (систему можно переносить на другое железо), копирование без потерь (в том числе памяти, а не только кода) и обмен опытом с высокой пропускной способностью (однородные группы ИИ могут напрямую делить обучающие сигналы).

Но часть недостающих способностей, как отмечено в эссе, может не восполняться одним объёмом: конференция из ста тысяч птолемеевских астрономов вряд ли открыла бы общую теорию относительности, как это сделал Эйнштейн. Поэтому описаны четыре возможных технологических пути от AGI к ASI (подробности, в отдельном отчёте «From AGI to ASI»). Первый, масштабирование моделей и данных. Законы масштабирования, это экстраполяции наблюдаемых трендов, которые работают в знакомых границах и не позволяют уверенно предсказать масштаб, нужный для AGI или ASI. Названы узкие места: исчерпание качественных данных (помочь могут синтетические данные, симуляции, среды для обучения с подкреплением и использование вычислений на этапе ответа), убывающая отдача от размера модели (каждый линейный шаг в способностях обычно требует умножения, а не сложения обучающих вычислений и размера модели, а большие модели медленнее) и физические и экономические ограничения (электростанции, сети, заводы по производству чипов, быстрые межсоединения); неясно, смогут ли выигрыши в эффективности это компенсировать.

Второй путь, сдвиги технологической парадигмы. Сегодняшняя парадигма, большие трансформеры, обученные предсказывать следующий символ, затем доработанные для рассуждений и выполнения инструкций, с дополнительными вычислениями на этапе ответа. Недавние исследования, по тексту эссе, говорят, что такая парадигма в принципе способна запускать через промпт сложные алгоритмы, включая мощные алгоритмы обучения, без дообучения. Но современные модели уступают людям в непрерывном обучении, некоторых формах моделирования мира, принятии решений и эффективности использования данных, а также, возможно, не умеют изобретать по-настоящему новые понятия. Исследователи расходятся: хватит ли простых расширений нынешнего подхода или нужны глубокие сдвиги парадигмы. Третий путь, улучшение координации агентов: объединение тысяч или миллионов экземпляров AGI в «групповые агенты» или виртуальные экономики агентов могло бы дать коллективный сверхинтеллект, но неясно, как групповой интеллект масштабируется с ростом числа агентов и вычислений. Доступный текст обрывается на этом месте, так что четвёртый путь и выводы эссе здесь не изложены.

Ключевые факты

  • Эссе на institute.deepmind.com утверждает: с приближением AGI пора всерьёз изучать следующий этап, ASI, а путь к нему возможен, но «далеко не наверняка».
  • ASI определён как система, стабильно превосходящая большие группы экспертов-людей в задачах на годы работы, при меньших ресурсах и времени, практически во всех областях.
  • Глобальный запас эффективных вычислений, по оценке эссе, растёт не менее чем в 10 раз в год (произведение роста эффективности железа, алгоритмов и инвестиций); задача за $1 млрд в токенах через десять лет стоила бы $1000.
  • Эффективная «популяция» сегодняшних ИИ-агентов при благоприятных условиях могла бы вырасти более чем в тысячу раз к 2030 году и более чем в миллиард раз за десять лет; авторы подчёркивают, что это не данность.
  • Описаны четыре возможных пути от AGI к ASI; в доступном тексте разобраны масштабирование моделей и данных, сдвиги парадигмы и начало темы координации агентов.

Почему это важно

Эссе переводит разговор о сверхинтеллекте из области философских рассуждений в плоскость, которую, по словам авторов, можно изучать эмпирически: какие технологические пути возможны и как отслеживать прогресс. Само утверждение о том, что AGI «в пределах досягаемости» и пора думать о следующем этапе, исходит с сайта, связанного с DeepMind. Главная конкретика, расчёт «когнитивной индустриализации»: если тренды эффективности железа, алгоритмов и инвестиций сохранятся, вычислений станет в разы больше, а стоимость когнитивной работы резко упадёт.

Кому это важно

Исследователям и компаниям, которые строят долгосрочные прогнозы развития ИИ; тем, кто занимается оценкой и измерением прогресса моделей; специалистам по политике и управлению, для которых эссе заявляет вопросы управления (governance) как следующую тему; инженерам и менеджерам, оценивающим, как быстро будет дешеветь когнитивный труд, выполняемый ИИ.

Как это применить

Это концептуальное эссе, а не инструмент: прямых рекомендаций по внедрению в доступном тексте нет. Практическая польза в том, что можно взять предложенные оценки (рост вычислений на доллар, падение цены инференса, рост числа возможных агентов) как отправную точку для собственных сценариев и стресс-тестов планов. Четыре названных пути (масштаб, смена парадигмы, координация агентов и ещё один, не вошедший в доступный текст) удобны как рамка для классификации новых исследований.

Можно ли доверять

Это позиционное эссе организации, разрабатывающей ИИ, и оно построено на экстраполяции трендов, а не на новых экспериментальных результатах. Сами авторы оговаривают, что законы масштабирования не позволяют уверенно предсказать масштаб, нужный для AGI или ASI, а многие утверждения сформулированы осторожно («может», «возможно», «далеко не наверняка»). Цифры о росте вычислений и падении цен приведены без разбора методики в доступном тексте; результат Epoch о падении цены более чем в 13 раз в год упомянут как ссылка на стороннее исследование. В доступном тексте не названы авторы эссе и дата публикации, а сам текст обрывается посреди раздела о координации агентов, поэтому четвёртый путь и выводы оценить нельзя.

Риски и подводные камни

Главный риск прочтения, принять оптимистичную экстраполяцию за прогноз: сами авторы называют рост популяции агентов в тысячи и миллиарды раз возможностью, а не данностью, и признают, что неясно, смогут ли выигрыши в эффективности компенсировать пределы по энергии, заводам и межсоединениям. Нерешены и вопросы данных (нехватка качественных данных) и убывающей отдачи от размера модели. Исследователи расходятся и в том, хватит ли нынешней парадигмы для ASI. Наконец, из-за обрезанного текста нельзя судить о четвёртом пути и о том, какие меры управления предлагаются.

«Теперь, когда AGI оказывается в пределах досягаемости, мы больше не можем откладывать серьёзные размышления о том, что идёт дальше.»

— эссе «What comes after AGI?», institute.deepmind.com