METR обнаружила: ИИ резко ускорил обнаружение уязвимостей в 2026 году

Рассылка об ИИ-исследованиях Import AI выпустила 470-й номер, фактически дайджест из нескольких материалов. Открывает его анализ организации METR, которая оценивает возможности ИИ-систем: она изучила, где искусственный интеллект реально ускорил научный и технический прогресс, в кибербезопасности, математических исследованиях и оптимизации самих ИИ-исследований. В кибербезопасности, по словам METR, «темп сообщений об уязвимостях резко ускорился в 2026 году по сравнению с 2025-м, и по отдельным проектам (cURL, OpenSSL, Firefox, Microsoft), и по агрегированным базам уязвимостей (американская NVD и OSV)». В математике ИИ способствует росту объёма исследований, число публикаций на arXiv в некоторых областях удвоилось меньше чем за год, но METR называет ценность этого вклада трудноизмеримой и добавляет, что пока рано говорить об устойчивости тренда. Примерно за тот же период были решены несколько задач из престижных списков нерешённых проблем, гипотеза Якобиана из списка Смейла, 44-я задача из списка Грина (halving sieve) и софическая половина 100-й задачи Грина, но METR не приписывает эти решения напрямую ИИ. В третьей области, на семи контрольных задачах (CIFAR-10, сжатие Hutter, смешанно-целочисленное программирование Gurobi, MIPLIB, nanoGPT, Stockfish и показатель сложности умножения матриц), METR не увидела измеримого ускорения в целом, хотя по двум из семи, nanoGPT и CIFAR-10, вклад именно ИИ всё же заметен.

Второй материал выпуска посвящён SPADE (Self-Play in Adaptive Synthetic Executable Environments, «самоигра в адаптивных синтетических исполняемых средах»), фреймворку, который создала команда из девяти университетов: Университета Вашингтона, Стэнфордского университета, Северо-Восточного университета, Университета Карнеги, Меллона, Массачусетского технологического института (MIT), Национального университета Сингапура, Сеульского национального университета, Технологического института Стивенса и Университета Чикаго. В SPADE одна модель попеременно играет две роли: «Дизайнер среды» пишет исполняемые обучающие задачи в виде Python-кода, например, смоделированные задачи из биологической лаборатории, а «Рассуждающий агент» пытается их решить. Дизайнер также добавляет то, что авторы называют «привилегированной подсказкой», дополнительную информацию, которая облегчает решение задачи; разрыв между результатами агента с подсказкой и без неё становится наградой для самого Дизайнера. Авторы протестировали три модели линейки Qwen3, Qwen3-4B-Instruct-2507, Qwen3-8B и Qwen3-30B-A3B-Instruct-2507, дообучив каждую алгоритмом GRPO за 400 прогонов по 25 сред в каждом, а затем проверили их на бенчмарках AIME, GPQA, LCB и средах Reasoning Gym. Больше всего выиграла самая крупная модель: на масштабе 30B-A3B SPADE довёл средний балл по игровым средам до 58,3, рост на 8,1 балла относительно необученной базовой модели и на 5,3 балла относительно лучшего фиксированного набора сред для сравнения; тот же подход улучшил результаты всех проверенных моделей и на задачах с использованием инструментов, хотя сопоставимой числовой оценки для этого случая не приводится. Код и веса моделей опубликованы на GitHub под названием spade-rl. Сами авторы предупреждают: техника не позволяет модели «самоулучшиться» далеко за пределы воображения той базовой модели, которая генерирует обучающие среды.

Третий материал, про Hawkeye, фреймворк с открытым кодом от исследователей Гарварда, Стэнфорда, Together AI и Калтеха, который помогает пишущим код ИИ-агентам создавать хорошо оптимизированные GPU-ядра под конкретное оборудование при минимальном участии людей. Hawkeye упаковывает таксономию юнит-тестов: каждый тест сопоставляет написанное человеком эталонное ядро с метрикой профилирования, которая подтверждает оптимизацию, так агент может читать ядро как готовый пример, вызывать его напрямую или собирать из его частей более крупное ядро. Исследователи проверили Hawkeye, перенося рабочие нагрузки PyTorch в оптимизированные ядра на чипах NVIDIA Ampere, Hopper и Blackwell, а также на AMD MI350, в форматах точности от BF16 до FP8, NVFP4 и MXFP4. На устоявшихся рабочих нагрузках, где torch.compile обычно обращается к готовым экспертным библиотекам вроде cuBLAS, cuDNN и FlashAttention, Hawkeye сравнялся с ними или превзошёл их и в BF16, и в низкой точности, в том числе в форматах, которые PyTorch не умеет запускать нативно. На новых вариантах механизма внимания, которые torch.compile не может объединить в одно ядро, Hawkeye показал геометрическое среднее ускорение в 18,9 раза относительно вручную написанных Triton-ядер из библиотеки Flash Linear Attention; конкретно на Linear Attention Hawkeye сравнялся с этой библиотекой или превзошёл её на всех архитектурах, ускорение в 1,22 раза на Blackwell, но лишь паритет, 1,00×, на AMD MI350 (то есть выигрыша не было). Исследователи также отмечают, что увеличение вычислительных затрат на этапе вывода (test-time compute) даёт Hawkeye самые производительные ядра на всех архитектурах.

Дополняет выпуск личное эссе ИИ-исследователя Джулиана Тогелиуса: он публикует текст под названием «Losing my religion» («Теряю веру»), который написал в 2025 году во время того, что сам называет «кризисом веры» в отношении ИИ-исследований. Тогелиус пишет, что иногда просыпается в три часа ночи с колотящимся сердцем от страха перед будущим, в котором человеческий талант, знания и даже гениальность перестанут иметь значение, и что растущие технологические возможности могут привести к миру, где люди больше не смогут ничего изменить и у них не останется причин узнавать больше, по его словам, это «изобилие, купленное ценой избыточности». Автор рассылки Import AI отмечает, что Тогелиус не одинок: с похожими переживаниями публично сталкивались, к примеру, лауреаты премии Тьюринга Джеффри Хинтон и Йошуа Бенджио, которые в последние годы перенесли фокус карьеры с исследований на публичную адвокацию по вопросам политики в сфере ИИ. Сам автор Import AI упоминает, что годом ранее написал на ту же тему собственное эссе, «Technological Optimism and Appropriate Fear» («Технологический оптимизм и уместный страх»), в 431-м выпуске рассылки.

Ключевые факты

METR обнаружила: в 2026 году ИИ резко ускорил обнаружение и раскрытие уязвимостей в проектах вроде cURL, OpenSSL, Firefox и Microsoft и в базах вроде NVD и OSV; на математические исследования ИИ повлиял слабее (эффект трудно измерить), а на оптимизацию самих ИИ-исследований, по семи контрольным задачам, измеримо не повлиял вовсе.
Команда из девяти университетов создала SPADE, систему, где модель Qwen3-30B-A3B попеременно придумывает синтетические обучающие среды и решает их сама; это подняло средний балл по игровым средам до 58,3, на 8,1 балла выше необученной базовой модели и на 5,3 балла выше лучшего фиксированного набора сред.
Фреймворк Hawkeye от исследователей Гарварда, Стэнфорда, Together AI и Калтеха помог ИИ-агентам сравняться с готовыми экспертными библиотеками (cuBLAS, cuDNN) на устоявшихся GPU-нагрузках и получить ускорение в 18,9 раза относительно вручную написанных Triton-ядер на новых вариантах механизма внимания, которые не умеет оптимизировать torch.compile.
ИИ-исследователь Джулиан Тогелиус опубликовал написанное в 2025 году эссе о «кризисе веры», тревоге, что успех ИИ-исследований лишит смысла человеческий талант и знания; похожие публичные переживания есть и у лауреатов премии Тьюринга Джеффри Хинтона и Йошуа Бенджио, которые в последние годы переключились с исследований на политическую адвокацию по ИИ.
Ни SPADE, ни Hawkeye не обещают безграничного самоулучшения: авторы SPADE прямо пишут, что метод не позволяет модели выйти далеко за пределы воображения базовой модели, которая генерирует среды, а результат Hawkeye на Linear Attention для чипа AMD MI350, это паритет (1,00×), а не выигрыш.

Почему это важно

Четыре материала выпуска Import AI объединены одной темой, тем, как ИИ ускоряет сам себя. Разбор METR даёт редкий количественный взгляд на то, где ускорение уже произошло: резко в кибербезопасности, слабее в математике, никак, в оптимизации самих ИИ-исследований. Собственная гипотеза автора рассылки, что ускорение наступает как труднообъяснимый «фазовый переход» для конкретного навыка, и это уже случилось с повседневным программированием в 2025 году и с кибербезопасностью в 2026-м; открытый вопрос, увидим ли мы такие же скачки в других областях. SPADE, шаг к рекурсивному самоулучшению: дешёвый способ генерировать много разнообразных обучающих данных, заставляя мощную модель придумывать задачи для другой модели, хотя сами авторы оговаривают, что метод не позволяет модели выйти далеко за пределы воображения базовой модели, которая генерирует среды. Hawkeye показывает ту же идею с другой стороны: небольшой объём отобранных людьми экспертных знаний, упакованных в юнит-тесты, уже позволяет ИИ-системам сравняться или превзойти оптимизированную вручную работу человека, и вывод рассылки в том, что именно такие инструменты позволят машинам со временем выйти за пределы возможностей человека. Эссе Тогелиуса замыкает тему вопросом «а ради чего всё это»: он, один из нескольких известных исследователей, включая лауреатов Тьюринговской премии Джеффри Хинтона и Йошуа Бенджио, кто публично размышлял, что будет означать мир, где человеческий талант и понимание перестанут иметь значение.

Кому это важно

Специалистам по безопасности и оценке ИИ разбор METR даёт конкретную цифру для спора о неравномерном ускорении и самоулучшении ИИ. Названные в анализе проекты, cURL, OpenSSL, Firefox, Microsoft, и операторы баз уязвимостей вроде NVD и OSV, это те, чьи данные за 2026 и 2025 годы легли в основу выводов METR. Исследователям, обучающим модели с подкреплением, SPADE даёт готовый рецепт и опубликованные веса для генерации синтетических обучающих сред вместо ручной их сборки, пока проверено на моделях Qwen3 с 4, 8 и 30 миллиардами параметров. Всем, кто оптимизирует ИИ-нагрузки на чипах NVIDIA Ampere, Hopper, Blackwell или AMD MI350, Hawkeye даёт готовый открытый инструмент для автоматической настройки GPU-ядер. А аудитория эссе Тогелиуса, всё ИИ-исследовательское сообщество, включая, по словам автора рассылки, таких заметных фигур, как Джеффри Хинтон и Йошуа Бенджио, сместившихся в сторону публичной адвокации по вопросам ИИ.

Как это применить

SPADE опубликован как открытый код и веса моделей под названием spade-rl на GitHub. Его проверяли на моделях линейки Qwen3 трёх размеров, 4B, 8B и 30B-A3B, дообученных алгоритмом GRPO на прогонах по самостоятельно сгенерированным средам, так что команды с собственным пайплайном обучения с подкреплением могут подключить его напрямую. Hawkeye тоже с открытым кодом: он применяется, пропуская существующие PyTorch-нагрузки через его таксономию юнит-тестов, чтобы получить ядра, оптимизированные под конкретное железо; проверен на чипах NVIDIA Ampere, Hopper, Blackwell и AMD MI350 в точности BF16, FP8, NVFP4 и MXFP4. Материал METR, это исследовательская заметка, а не инструмент: она полезна для калибровки ожиданий, а не для того, чтобы что-то построить. Эссе Тогелиуса, текст, опубликованный в его собственном блоге, а не программа.

Можно ли доверять

Сравнение METR опирается на проверяемые цифры: число уязвимостей по названным проектам и базам, число публикаций на arXiv, определённый список из семи контрольных задач. Но сама METR называет вывод про математику трудноизмеримым и говорит, что пока рано судить об устойчивости тренда, а для отсутствия ускорения в оптимизации ИИ-исследований не даёт объяснения, только сам факт. SPADE и Hawkeye подкреплены результатами бенчмарков из собственных статей авторов (SPADE, на arXiv, Hawkeye, на alphaxiv), а не независимым воспроизведением. Прирост SPADE измерен относительно фиксированного набора сред на трёх размерах моделей: на самой крупной, средний балл 58,3, рост на 8,1 балла относительно необученной базовой модели и на 5,3 балла относительно лучшего фиксированного набора. Заявленное Hawkeye ускорение в 18,9 раза относится конкретно к новым вариантам механизма внимания, которые не умеет объединять torch.compile; на Linear Attention прирост скромнее, 1,22 раза на Blackwell, а на AMD MI350, точный паритет, 1,00×, то есть не улучшение. Эссе Тогелиуса, личный текст, который стоит читать как свидетельство, а не как утверждение, подкреплённое данными.

Риски и подводные камни

METR прямо говорит, что вывод про математику может оказаться преждевременным, и рассылка осторожно не приписывает ИИ прямое решение перечисленных престижных математических задач, только то, что они были решены примерно в тот же период. Сами авторы SPADE предупреждают: метод не позволяет модели самоулучшиться заметно дальше воображения той базовой модели, которая генерирует для неё обучающие среды, это явный потолок для истории про самоулучшение. Результаты Hawkeye не везде положительны: на AMD MI350 его результат на Linear Attention, это паритет с существующей экспертной библиотекой, а не выигрыш. И весь выпуск в целом, это авторский подбор и анализ одной рассылки, со сквозной рубрикой «почему это важно», а не независимый или рецензируемый синтез нескольких исследований.

«Иногда я просыпаюсь в три часа ночи с колотящимся сердцем от ужаса перед будущим, в котором человеческий талант, знания и даже гениальность ничего не будут значить.»

— Джулиан Тогелиус, ИИ-исследователь, в эссе «Losing my religion»