METR: прогресс Anthropic за год ускорился вдвое, вероятно, из-за ИИ

METR: прогресс Anthropic за год ускорился вдвое, вероятно, из-за ИИ

Пост на planned-obsolescence.org разбирает публичный отчёт организации METR об ускорении исследований в самой Anthropic за счёт её нейросетей. Автор поста (имя в тексте не указано) пишет, что сам над отчётом не работал и неотредактированной версии не видел, а его коллеги из METR несколько месяцев вели расследование с глубоким доступом к данным. Все мнения в посте, его личные и не представляют METR или авторов отчёта.

Контекст: в документах для SEC (форма S1) Anthropic заявила, что «может в ближайшее время достичь» порога «резко ускоренного прогресса благодаря ИИ» из своей политики ответственного масштабирования (RSP, редакция вступила в силу в июле 2026 года). Порог считается достигнутым, когда, во-первых, наблюдается или ожидается двукратный темп прогресса общих возможностей по сравнению с самым быстрым устойчивым темпом до того, как ИИ заметно участвовал в исследованиях, и, во-вторых, это правдоподобно объясняется автоматизацией исследований, а не ростом вычислений и других ресурсов.

Авторы отчёта METR выяснили две вещи. Первое: с октября 2025 по октябрь 2026 года прогресс возможностей в Anthropic шёл примерно вдвое быстрее, чем в предыдущие двенадцать месяцев. Мерой служит внутренняя версия индекса Epoch Capabilities Index под названием AECI; значительная часть остальных подтверждающих данных засекречена, причём сами авторы назвали её «большинством наиболее информативных свидетельств». Второе: темп сначала вырос по смеси причин, но сегодня автоматизация с помощью ИИ, вероятно, составляет подавляющую часть причины сохранения высокого темпа; обоснование этого тоже скрыто. Автор поста называет отчёт самым важным обновлением об ИИ-рисках за последние пару лет, куда важнее атаки на Hugging Face, и считает, что он указывает на более короткие сроки, чем прогнозируют большинство внешних исследователей, включая команду AI 2027.

Главный довод автора: если ИИ примерно удваивает общий прогресс, то исследователей он ускоряет гораздо сильнее. Общие возможности («эффективные вычисления»), произведение «множителей вычислений» (улучшений алгоритмов и архитектур) и обучающих вычислений. Поэтому для двукратного общего темпа множители должны расти быстрее, чем вдвое: по оценке автора, примерно в 2,5-3 раза (далее он берёт 2-3x). Труд исследователей, тоже лишь один вход: нужны вычисления для экспериментов. В простой модели Кобба, Дугласа, где вычисления и труд одинаково важны, ускорение труда равно квадрату ускорения множителей, то есть (2-3x)² ≈ 4-9x в начале. Но лёгкие идеи быстро выбираются, а число людей растёт по-старому, поэтому для поддержания нового темпа отдача от ИИ должна непрерывно расти: сегодня, по грубой и очень неопределённой оценке, нужно около 10x. Это неожиданно хорошо совпадает с неформальными самооценками сотрудников Anthropic, которые говорят о примерно 12-кратном приросте от внутренних моделей. Автор уточняет: это не «каждый исследователь стал командой из десяти», а скорее «десять дней за каждый внешний день».

Дальше, возможное самоускорение. Если прирост от ИИ будет расти и перекроет убывающую отдачу, прогресс станет идти в 4, затем 8, затем 16 раз быстрее. Авторы отчёта были очень неуверены и несколько раз меняли картину, но не нашли свидетельств узких мест или резко убывающей отдачи, которые помешали бы такому нарастанию; есть и запутанные скрытые данные, что ускорение уже может превышать 2x и расти. При наивной гладкой экстраполяции удвоение темпа повторится через шесть месяцев, затем через три, затем через шесть недель, что в теории даёт бесконечные возможности за год; на деле будет потолок эффективности программной части, но автор ожидает его очень далеко от нынешней точки. Он добавляет, что такие системы могли бы быстро создавать новое оружие и легко одолеть человечество в конфликте, а при серьёзной несогласованности целей, по его мнению, вероятно, лишили бы человечество власти, что могло бы привести к вымиранию.

Отрасль к этому не готова, пишет автор: по старой RSP (май 2025) уже на уровне AI R&D-5, более слабой вехе, Anthropic должна была иметь защиту, достаточную, чтобы «защитить веса модели от кражи противниками государственного уровня». Между тем OpenAI и Anthropic недавно пережили серьёзные взломы со стороны любительских групп. Помимо защиты весов нужны журналирование и мониторинг с полным охватом, надёжные замеры способности к мониторингу, меры против сговора мониторов, принципиальные методы обучения согласованности и инфраструктура управления для замедления прогресса.

По порогу: определение запутанное, потому что нужны два условия ускорения (относительно контрфактического сценария и относительно прошлого). Авторы отчёта оценили примерно двукратный рост темпа относительно прошлого, но к ИИ относят лишь около 80% текущего ускорения, так что центральная оценка ускорения относительно мира без ИИ, примерно 1,8x на момент написания отчёта в октябре 2026 года. Но вклад ИИ растёт, и сейчас (ноябрь 2026 года), предполагает автор, он заметно выше. Лучшей оценкой он считает, что порог уже достигнут. Он сожалеет, что большая часть важных данных скрыта, и просит больше прозрачности, чтобы читателям не приходилось полагаться на доверие; точных собственных прогнозов он не даёт, ограничиваясь выводами из публичных данных.

Ключевые факты

  • Отчёт METR: с октября 2025 по октябрь 2026 года прогресс возможностей в Anthropic шёл примерно вдвое быстрее, чем в предыдущие двенадцать месяцев (по внутренней версии индекса Epoch Capabilities Index, AECI).
  • Авторы отчёта считают, что автоматизация с помощью ИИ, вероятно, составляет подавляющую часть причины сохранения такого темпа; примерно 80% текущего ускорения они относят на счёт ИИ, что даёт около 1,8x относительно мира без ИИ (вывод автора поста).
  • Оценка автора поста: для двукратного общего темпа труд исследователей нужно ускорить примерно в 4-9 раз в начале и примерно в 10 раз сегодня; сотрудники Anthropic неформально говорят о примерно 12x.
  • Автор поста считает, что порог «резко ускоренного прогресса» из RSP Anthropic уже пройден, и при гладкой экстраполяции видит удвоения темпа через шесть месяцев, три месяца, шесть недель.
  • Большая часть ключевых данных в отчёте скрыта; автор поста сам отчёт не писал и неотредактированной версии не видел.

Почему это важно

Если оценки верны, ИИ уже заметно ускоряет разработку самого ИИ в одной из ведущих лабораторий, а это по логике автора поста запускает цикл самоусиления. В политике Anthropic достижение порога «резко ускоренного прогресса» связано с обязательствами по защите, и сама компания в S1 пишет, что может в ближайшее время его достичь. Автор называет отчёт самым важным обновлением об ИИ-рисках за пару лет и считает, что он указывает на более короткие сроки, чем у большинства внешних исследователей, включая команду AI 2027.

Кому это важно

Исследователям безопасности ИИ и специалистам по политике ответственного масштабирования, регуляторам и аналитикам, прогнозирующим сроки развития ИИ, сотрудникам лабораторий, отвечающим за защиту весов моделей, а также инвесторам и читателям, следящим за заявлениями Anthropic в документах для SEC.

Как это применить

Это аналитический комментарий, а не инструмент, поэтому применять нечего напрямую. Практически полезны рассуждения автора: как перейти от общего темпа прогресса к ускорению множителей вычислений и труда (квадрат ускорения в модели Кобба, Дугласа), и перечень мер, которые он считает необходимыми до такого ускорения: защита весов и алгоритмических секретов, журналирование и мониторинг с полным охватом, меры против сговора мониторов, методы обучения согласованности и управление темпом прогресса.

Можно ли доверять

С оговорками. Автор поста не работал над отчётом и не видел неотредактированной версии; его выводы, личное мнение, а не позиция METR. Ключевые данные в отчёте скрыты, включая обоснование того, что именно ИИ объясняет ускорение; сами авторы отчёта называют скрытое большинством наиболее информативных свидетельств, а часть скрытых данных описывают как запутанную. Цифра 12x, неформальные самооценки сотрудников Anthropic, а не результат измерения METR. Оценки 4-9x, 10x и 1,8x, собственные расчёты автора по упрощённой модели и очень неопределённы. Сам автор признаёт, что читателям приходится полагаться на доверие, и просит больше прозрачности.

Риски и подводные камни

Расчёты опираются на простую модель с допущениями (равная важность труда и вычислений) и на гладкую экстраполяцию: автор прямо называет вывод о сверхинтеллекте за год наивным, а потолок эффективности программной части, далёким от нынешнего, но существующим. Определение порога запутанное из-за двух условий, и оценка 1,8x относительно мира без ИИ чуть ниже двукратной границы, хотя автор считает, что вклад ИИ уже вырос. Сам автор предупреждает, что при серьёзной несогласованности целей такие системы, по его мнению, вероятно, лишили бы человечество власти, а отрасль, по его словам, далека от нужного уровня защиты.

«Я думаю, что этот отчёт, самое важное обновление об ИИ-рисках за последние пару лет, куда важнее атаки на Hugging Face.»

— автор поста на planned-obsolescence.org