METR обновила график «временного горизонта» ИИ: в задачах на суждение модели слабее

METR обновила график «временного горизонта» ИИ: в задачах на суждение модели слабее

Некоммерческая организация METR, которая оценивает ИИ, выпустила обновление своего графика «временного горизонта». Исходный график широко разошёлся и, по словам MIT Technology Review, так же широко был неверно понят из-за сложности использованных измерений. Принцип такой: модели пробуют выполнить большой набор задач, каждую из которых раньше выполняли люди. Сложность задачи измеряется тем, сколько времени ей понадобилось людям-тестировщикам, а модель оценивают по длине задач, которые она способна выполнить. По исходному графику длина задач, с которыми успешно справлялись передовые модели, удваивалась каждые четыре месяца.

В обновлённый график добавили новые задачи: часть из них, по оценке, занимает у людей гораздо больше времени, чем задачи исходного набора, другие более открытые. Это связано с одним из главных вопросов в ИИ сейчас: переносится ли прогресс на «проверяемых» задачах (где автоматически видно, справилась ли система) на задачи, где успех измерить труднее. Нейросети умеют учить на проверяемых задачах с помощью обучения с подкреплением: система многократно пробует задачу, усиливаются связи, ведущие к успеху, и ослабляются ведущие к неудаче. Поэтому ИИ так хорош в программировании и математике. Но для задач с нечётким критерием успеха или долгим ожиданием результата, например выбора нового направления исследований, метод применять намного труднее, и оценивать на них ИИ тоже трудно. Поэтому в исходный график таких задач не входило, хотя именно они понадобятся, чтобы ИИ автоматизировал исследования и разработку (AI R&D).

Тема особенно горячая: ранее в этом месяце вышел другой, сильно отредактированный отчёт METR, где говорилось, что ИИ, возможно, ускоряет темп развития ИИ в Anthropic вдвое. Это вызвало опасения, что компания близка к полному рекурсивному самоулучшению, когда системы без участия людей проектируют своих преемников.

В новый набор METR включила и более «размытые» задачи, требующие суждения. В одной модели должны придумать новые оценки (тесты) для ИИ, которые METR могла бы использовать в исследованиях, а сотрудники METR оценивают результат. Хотя самые продвинутые модели уже лучше почти любого человека в программной инженерии, здесь они не справились: ни одна из придуманных ИИ оценок не оказалась достаточно хороша, чтобы сотрудники METR сочли её полезной для работы. В другой задаче модели оценивают философские аргументы; она призвана показать, насколько хорошо модели рассуждают здраво. При этом METR пишет, что сотрудники расходятся во мнении, насколько эта задача важна для автоматизации AI R&D. И здесь модели уступили людям.

Эксперты, с которыми говорил автор материала, рады, что METR добавляет новые типы оценок. Саяш Капур, компьютерный специалист и будущий профессор Калифорнийского университета в Беркли, говорит, что оценкам ИИ пора становиться изобретательнее. Он не удивлён слабостью моделей на открытых задачах: в августовском препринте он с соавторами сообщал, что модели пока не способны самостоятельно воспроизводить человеческие исследования в информатике. А в блоге в среду OpenAI написала, что её модели хуже справляются с реальными задачами, которые ставят сотрудники, чем с более простыми и проверяемыми задачами из исходного набора METR.

Мнения о том, как трактовать разрыв, расходятся. Капур считает, что «вкус к исследованиям» (умение выбирать перспективные вопросы, гипотезы и эксперименты) станет серьёзным узким местом автоматизации AI R&D. Другие утверждают, что модели, обученные на легко проверяемых задачах, со временем справятся и с открытыми. А прогресс на проверяемых задачах, по тексту, не замедляется.

Есть и признаки роста. Некоторые из новейших моделей, например Opus 5.5, обычно достигают на задачах по проектированию оценок уровня, который METR называет «borderline above the bar» (на границе, чуть выше планки): для исследований METR пока непригодно, но многообещающе. Год назад все модели попадали в категорию «clearly below the bar» (явно ниже планки).

Однако таких задач в отчёте мало: их трудно придумывать и оценивать. Поэтому сложно предсказать, будут ли модели прогрессировать в этой области и как. Наджун Ким, лингвист и компьютерный специалист из Бостонского университета, говорит, что наблюдаемое улучшение что-то говорит о текущем моменте, но она пока не уверена, как его экстраполировать. Мэтт Путц, член технического штата METR, написал в письме, что задачи, трудно поддающиеся проверке или требующие суждения, изучать и особенно измерять гораздо сложнее, и он не думает, что для них удастся установить столь же чёткие и надёжные тренды, как для легко формулируемых.

Материал отмечает практические трудности METR. В исходном графике время выполнения измеряли, реально поручая задачи людям. В новом отчёте время в основном оценочное: платить людям за задачи, которые могут занимать сотни часов или под силу лишь немногим экспертам, непомерно дорого и долго. Есть и другие недостатки: в задаче с философскими аргументами большинство аргументов оценил всего один человек, а агентов судят по тому, насколько они согласны именно с ним. Оценки могли бы измениться при опросе большего числа экспертов, но это тоже долго. Итог: оценка моделей на трудно проверяемых задачах пока на раннем этапе, и до окончательных ответов о том, придёт ли автоматизированный AI R&D и как скоро, далеко.

Ключевые факты

  • METR обновила график «временного горизонта»: добавлены задачи, на которые у людей уходит гораздо больше времени, и более открытые задачи, требующие суждения. По исходному графику длина задач, доступных передовым моделям, удваивалась каждые четыре месяца.
  • По отчёту, некоторые способности ИИ продолжают расти экспоненциально, но в задачах на суждение модели слабее, чем в программировании: ни одна из придуманных ИИ оценок не показалась сотрудникам METR полезной для их исследований.
  • Новейшие модели, например Opus 5.5, в задаче по проектированию оценок достигают уровня «borderline above the bar», тогда как год назад все модели были «clearly below the bar».
  • В новом отчёте время выполнения задач людьми в основном оценочное, а в задаче с философскими аргументами большинство аргументов оценил один человек.
  • Эксперты считают расширение набора шагом вперёд, но подчёркивают, что до окончательных ответов о скорости автоматизации AI R&D далеко.

Почему это важно

График METR стал одним из самых цитируемых в обсуждении скорости развития ИИ. Обновление впервые добавляет задачи, на которых нельзя автоматически проверить успех, а именно такие задачи нужны для автоматизации исследований и разработки в самом ИИ. Тема актуальна: ранее в этом месяце другой отчёт METR заявил, что ИИ, возможно, ускоряет работу Anthropic вдвое. Новый отчёт показывает неоднородную картину: рост есть, но в задачах на суждение модели слабее.

Кому это важно

Исследователям и специалистам по оценке моделей, которым нужны более творческие и открытые тесты. Тем, кто следит за спорами об автоматизации AI R&D и рекурсивном самоулучшении. Читателям, которые встречали график METR в соцсетях и хотят понять, что именно он измеряет.

Как это применить

Читать график как оценку длины задач, измеренной по времени, которое тратят люди, а не как общую меру «интеллекта». Для проверяемых задач (код, математика) тренд выглядит устойчивым; для задач на суждение результаты пока нужно воспринимать осторожно. В материале не названы цена, лицензия или способ самостоятельно воспроизвести набор задач.

Можно ли доверять

Это пересказ MIT Technology Review отчёта METR; сам отчёт METR в тексте не воспроизводится, а числовых значений горизонта для моделей, нового времени удвоения и размера набора задач материал не приводит. Экспертные оценки даны с именами и местом работы (Капур, Ким) и сам METR (Путц) прямо признаёт, что чёткие тренды для трудно проверяемых задач вряд ли удастся получить. Утверждение об ускорении Anthropic вдвое относится к другому отчёту и сформулировано как «возможно».

Риски и подводные камни

Время выполнения задач в новом отчёте в основном оценочное, а не измеренное на людях. Открытых задач, требующих суждения, в отчёте мало, поэтому прогнозировать прогресс в этой области трудно. В задаче с философскими аргументами большинство аргументов оценил один человек, и результаты могли бы измениться при большем числе экспертов; сами сотрудники METR расходятся во мнении о значимости этой задачи для автоматизации AI R&D. Кроме того, OpenAI сообщила, что на реальных задачах её модели справляются хуже, чем на проверяемых задачах из исходного набора METR.

«Мы дошли до точки, когда оценкам ИИ нужно становиться изобретательнее.»

— Саяш Капур, компьютерный специалист и будущий профессор Калифорнийского университета в Беркли