Google впервые зафиксировала кибератаки без участия человека
Google Threat Intelligence Group (GTIG) сообщает, что впервые наблюдала, как атакующие полностью автоматизировали поиск уязвимостей и их эксплуатацию, причём без участия человека на каком-либо этапе.
По данным отчёта GTIG AI Threat Tracker, специалисты нашли доступный извне сервер, на котором работал ИИ-фреймворк под названием «exploit_agent». Он подключается сразу к нескольким языковым моделям. Система сравнивает код программ до и после выпуска исправлений (патчей), находит уязвимости, разрабатывает эксплойты (программы для их использования) и автоматически их запускает.
О том, кто стоит за системой, источник говорит осторожно. Комментарии в конфигурационных файлах написаны по-русски, и это позволяет предположить, что оператор говорит по-русски. Данные с сервера, по той же осторожной формулировке, указывают, что цели оператора, французские сайты в сфере медиа, развлечений и образования. Ни прямой атрибуции какой-либо группировке или государству, ни подтверждения успешных атак в тексте нет.
GTIG называет происходящее критическим поворотным моментом. При этом, по оценке GTIG, такие автоматизированные атаки пока жертвуют скрытностью ради скорости и оставляют криминалистические следы, из-за чего их проще обнаружить.
Заголовок оригинала в The Decoder обещает, что атаки «быстро станут хуже», но в самом тексте такого прогноза нет: там говорится лишь о поворотном моменте и о том, что сейчас такие атаки заметнее обычных.
Ключевые факты
- GTIG заявляет, что впервые увидела полностью автоматизированные поиск уязвимостей и их эксплуатацию без человека в цикле.
- На открытом сервере работал ИИ-фреймворк «exploit_agent», подключённый к нескольким языковым моделям.
- Система сравнивает код до и после патчей, находит уязвимости, пишет эксплойты и сама их запускает.
- Русскоязычные комментарии в конфигурациях и данные сервера дают лишь предположения: оператор, вероятно, говорит по-русски, а целью были французские сайты медиа, развлечений и образования.
- Пока такие атаки жертвуют скрытностью ради скорости и оставляют следы, по которым их легче обнаружить.
Почему это важно
По оценке GTIG, это критический поворотный момент: впервые зафиксирована цепочка от поиска уязвимости до запуска эксплойта, в которой на всех этапах работает автоматика на основе языковых моделей. По словам GTIG, человека в цикле нет. Отдельно важен приём, о котором говорится в источнике: система сравнивает код до и после патчей, то есть работает с уже выпущенными исправлениями.
Кому это важно
Командам информационной безопасности и центрам мониторинга угроз, а также разработчикам и администраторам, которые отвечают за установку обновлений. Для организаций в сферах, названных в отчёте (медиа, развлечения, образование), и для французских сайтов это пример реально замеченной цели, хотя источник не называет конкретных площадок. Интересно сюжет и тем, кто следит за злоупотреблением языковыми моделями.
Как это применить
Источник не даёт рекомендаций, поэтому прикладная часть ограничена. Полезно прочитать первоисточник, GTIG AI Threat Tracker, и сверить свои процессы с описанным поведением. Из описания системы можно сделать осторожный вывод, что исправления стоит устанавливать быстрее, раз код до и после патча сравнивается автоматически. Из слов GTIG о заметных следах следует, что для обнаружения таких атак имеет смысл опираться на криминалистические следы и журналы.
Можно ли доверять
Сведения исходят от Google Threat Intelligence Group, то есть от самой команды, которая нашла сервер. Пересказ опирается на короткую заметку The Decoder, а не на сам отчёт. В заметке нет даты наблюдения и отчёта, не названы модели, ПО и конкретные сайты, нет данных об успешности атак и цифр (число целей, эксплойтов, жертв). Русскоязычный след и список французских целей источник подаёт только как предположения («suggest»), а не как установленный факт; атрибуции какой-либо группе или государству нет.
Риски и подводные камни
Не стоит читать заметку шире написанного. Это один описанный случай, а прогноз о быстром ухудшении есть только в заголовке оригинала, но не в тексте. Языковой след в комментариях и данные о целях ненадёжны для выводов о личности атакующих. Оценка GTIG о заметности таких атак относится к нынешнему моменту: она не гарантирует, что следы сохранятся, когда скорость и скрытность будут сочетаться лучше. Это логичное предостережение, но не утверждение источника.