ИИтог

ИИ-агенты находят уязвимости за минуты после публикации патча

безопасностьРедакция ИИтогSimon Willison🔥77Рейтинг ИИтог77Влияние72Новизна68Релевантность98Неожиданность78Участники62Достоверность87

Анил Мадхавапедди, профессор компьютерных наук в Кембридже и один из основных мейнтейнеров компилятора OCaml, описал в своём посте (на который ссылается блог Саймона Уиллисона), что патчи по безопасности в проектах на OCaml теперь привлекают попытки эксплуатации почти сразу после публикации для обсуждения. Раньше на это уходило несколько дней, а выпуск релиза в течение недели-двух считался нормальным сроком. Теперь же примерно через десять минут после публикации сайт мейнтейнера уже фиксировал зондирующие запросы с закодированными (percent-encoded) последовательностями для обхода каталогов (path traversal), верный признак того, что автоматические наблюдатели постоянно следят за публичными репозиториями. Сам Анил продемонстрировал эту скорость на собственных ИИ-агентах: когда Claude Fable отказалась выполнять задачу по поиску уязвимости, он переключился на DeepSeek V4 Pro и получил результат. По его мнению, такая скорость обнаружения несовместима с нынешней практикой эмбарго на раскрытие уязвимостей в open source, и сообществу нужны новые процессы, чтобы оставаться в безопасности.

Эту картину подтвердил в комментариях на Hacker News Ник Крейг-Вуд, мейнтейнер проекта rclone: за первые десять лет существования проекта rclone получил через GitHub около 20 заявок об уязвимостях, а только за последний месяц пришлось разбирать уже более 40. Из них, по его оценке, около 75% содержат реальную проблему, заслуживающую внимания, остальное шум. Разбор отнимает у него огромное количество времени, даже при использовании ИИ-инструментов для первичной сортировки заявок и подготовки исправлений. Отдельная проблема, присвоение CVE: раньше GitHub делал это за 2, 3 дня, а сейчас, за 3, 4 недели, из-за чего Крейг-Вуд вынужден выпускать точечные релизы с пометкой CVE-PENDING в списке изменений.

Ключевые факты

  • После публикации патча в проекте на OCaml зондирующие запросы (percent-encoded path traversal) появились уже примерно через 10 минут, раньше на это уходило несколько дней
  • Анил Мадхавапедди подтвердил скорость на собственном опыте: ИИ-агент Claude Fable отказался искать уязвимость, поиск довёл до результата DeepSeek V4 Pro
  • Мейнтейнер rclone Ник Крейг-Вуд: за 10 лет проект получил около 20 заявок об уязвимостях через GitHub, а за последний месяц, уже более 40, из них около 75% с реальной проблемой
  • Присвоение CVE в GitHub замедлилось с 2, 3 дней до 3, 4 недель, из-за чего релизы rclone выходят с пометкой CVE-PENDING
  • Оба мейнтейнера считают, что нынешние сроки эмбарго на раскрытие уязвимостей в open source больше не соответствуют скорости, с которой ИИ-агенты находят и эксплуатируют баги

Почему это важно

Скорость, с которой автоматизированные ИИ-агенты находят и начинают проверять уязвимости после малейшего намёка на патч, ломает базовое допущение всей системы раскрытия уязвимостей в open source: у мейнтейнеров есть дни или недели на эмбарго, чтобы тихо подготовить исправление. Если зонды приходят через 10 минут, а официальный CVE выдаётся через месяц, разрыв между обнаружением и защитой становится опасно большим.

Кому это важно

В первую очередь, мейнтейнерам open-source проектов, у которых нет штатной команды безопасности: именно на них ложится и разбор потока заявок, и подготовка патчей в сжатые сроки. Также это касается GitHub как оператора инфраструктуры CVE и любых компаний, чьи продукты зависят от таких проектов, как инструментарий OCaml или rclone.

Как это применить

Мейнтейнерам стоит закладывать в процесс релиза защиту от мгновенного зондирования: не публиковать детали патча заранее, ускорять цикл от патча до релиза, использовать ИИ-инструменты не только для атаки, но и для собственной триажной сортировки входящих заявок, как уже делает Крейг-Вуд в rclone. Организациям, зависящим от таких CVE, стоит закладывать в свои процессы задержку в присвоении номера CVE, а не ждать его как надёжный и быстрый сигнал.

Можно ли доверять

Источник, блог Саймона Уиллисона, который ссылается на именованных, проверяемых людей: профессора Кембриджа и мейнтейнера компилятора OCaml Анила Мадхавапедди (собственный пост) и мейнтейнера rclone Ника Крейг-Вуда (комментарий на Hacker News). Оба говорят от первого лица о своём опыте, цифры (10 минут, 20 против 40+ заявок, 75%, сроки CVE) приведены как их личные наблюдения, а не как проверенная общая статистика по индустрии, общего числа проб или подтверждённых эксплойтов в материале нет.

Риски и подводные камни

Это анекдотические свидетельства двух проектов, а не отраслевое исследование, насколько картина типична для open source в целом, неизвестно. Даже у высокого «попадания» в 75% четверть заявок в rclone оказывается шумом, который тоже требует времени на разбор. А задержка с присвоением CVE до 3, 4 недель означает, что официальный публичный сигнал об уязвимости может появляться заметно позже, чем реальная эксплуатация.

«Обычно это занимает несколько дней, а выпуск релиза в течение недели-двух, вполне нормальный срок. Но уже примерно через десять минут (!) сайт фиксировал зондирующие запросы с закодированными последовательностями для обхода каталогов, то есть автоматические наблюдатели постоянно следят за публичными репозиториями.»

— Анил Мадхавапедди, профессор компьютерных наук в Кембридже, мейнтейнер компилятора OCaml