VicOne нашла 28 уязвимостей нулевого дня в ПО для роботов за два дня

VicOne нашла 28 уязвимостей нулевого дня в ПО для роботов за два дня

Японская компания VicOne, которая занимается кибербезопасностью «физического ИИ» (роботов и автомобилей), сообщает, что менее чем за два дня с помощью исследования с применением ИИ выявила первый набор из 28 уязвимостей нулевого дня (то есть ранее неизвестных и без готового исправления). Они найдены в программах и инструментах, которые обслуживают экосистему физического ИИ. Среди них есть проекты, разработанные или поддерживаемые Google, NVIDIA и Meta, «среди прочих». Текст опубликован на IEEE Spectrum под пометкой «Эта статья подготовлена при поддержке VicOne», то есть это спонсорский материал компании, и в нём же рекламируются её продукты.

По результатам первичной проверки все 28 находок классифицированы как уязвимости нулевого дня. Но число может измениться после проверки производителями и органами, ведущими учёт уязвимостей, а у части находок ещё нет номеров CVE. Подробности должны стать доступны в рамках скоординированного раскрытия.

Многие из затронутых инструментов нужны, чтобы обучать, моделировать, тестировать и эксплуатировать роботов. Слабые места в них могут повлиять на создаваемые модели, на результаты тестов, которым доверяют, и на команды, отправляемые роботам. По данным VicOne, находки охватывают три этапа жизненного цикла робота: разработку и обучение, симуляцию и проверку, развёртывание и работу. В подписи к рисунку сказано, что 75% находок в этом наборе связаны с инструментами разработки, обучения, симуляции или проверки, то есть с рисками, которые возникают до запуска робота.

Авторы разбирают сценарии для каждого этапа. Разработка и обучение: загрузка вредоносного файла предобученной модели может дать злоумышленнику доступ к обучающей системе и позволить менять данные или саму модель; такая модель при обычных тестах ведёт себя нормально, но неверно реагирует на определённый предмет, сцену или команду после запуска. Симуляция и проверка: импорт скомпрометированной сцены или модели робота может дать доступ к среде симуляции, где можно подменить показания датчиков, физические условия или результаты тестов, так что небезопасный робот «пройдёт» проверку. Развёртывание: можно изменить файлы, влияющие на планирование движения, или отправить вредоносные данные карты, из-за которых падает экран мониторинга оператора; компрометация компьютера удалённого управления ставит под угрозу и команды роботу. Текст подчёркивает: это потенциальные последствия, а не продемонстрированные результаты для каждой находки; реальный эффект зависит от доступа атакующего, устройства системы и других защитных мер.

Отдельно показан пример из демонстрации: исследователи VicOne эксплуатировали уязвимость так, что у робота перестала работать команда удалённой остановки. По словам авторов, это показывает, что надо проверять, сохраняют ли защитные функции эффективность, если скомпрометировано поддерживающее их ПО.

Далее текст говорит, что и после выхода исправления командам нужно определить затронутые системы, проверить совместимость и убедиться, что обновление сохраняет нужное поведение; ранее успешный тест остаётся полезным, но новая уязвимость может выявить условия, которых тот тест не охватывал. Предлагаются три вопроса: где используется затронутое ПО (включая обучающие компьютеры, среды симуляции и работающих роботов), что слабое место способно изменить и как проверить защиту. Если сразу обновиться нельзя, могут понадобиться временные меры, например ограничение доступа к затронутой службе. Завершается материал рекламой продуктов VicOne Radeis (поиск потенциальных уязвимостей нулевого дня, оценка безопасности моделей и систем, симуляция влияния на поведение робота до запуска) и Rthena (обнаружение угроз и реакции в рамках утверждённых политик во время работы), а также белой книги компании.

Ключевые факты

  • VicOne заявляет, что менее чем за два дня с помощью исследования с применением ИИ выявила первый набор из 28 уязвимостей нулевого дня в ПО для физического ИИ (робототехники).
  • Среди затронутых, проекты, разработанные или поддерживаемые Google, NVIDIA и Meta, «среди прочих»; конкретные проекты и номера CVE не названы, у части находок CVE ещё нет.
  • Число 28 может измениться после проверки производителями и органами, ведущими учёт уязвимостей; подробности ожидаются при скоординированном раскрытии.
  • По данным компании, 75% находок связаны с инструментами разработки, обучения, симуляции или проверки, то есть с рисками до запуска робота.
  • Это спонсорский материал на IEEE Spectrum, который рекламирует продукты VicOne Radeis и Rthena; описанные сценарии атак, потенциальные, а не доказанные для каждой находки.

Почему это важно

Роботы всё чаще создаются на общих инструментах для обучения, симуляции и удалённого управления, и уязвимость в таком инструменте может повлиять сразу на модель, на результаты тестов и на команды роботу. По словам VicOne, ИИ ускоряет поиск уязвимостей: у команд остаётся меньше времени на реакцию, а похожими возможностями могли бы воспользоваться и атакующие. При этом материал прямо оговаривает, что быстрое обнаружение не означает, что атака уже произошла.

Кому это важно

Производителям и командам разработчиков роботов, которые используют инструменты для обучения моделей, симуляции и удалённого управления, в том числе проекты Google, NVIDIA и Meta. Также специалистам по безопасности в автомобильной и робототехнической отраслях и тем, кто отвечает за проверку безопасности роботов перед запуском.

Как это применить

Материал предлагает три вопроса: где мы используем затронутое ПО (обучающие компьютеры, среды симуляции, работающие роботы); что слабое место может изменить (модели, результаты тестов, видимость для оператора, поведение робота); как проверить защиту (убедиться, что исправление закрывает уязвимость и система работает как задумано). После выхода патча нужно проверить совместимость и сохранение поведения, а если сразу обновиться нельзя, временно ограничить доступ к затронутой службе. Эти советы идут в связке с рекламой коммерческих продуктов VicOne.

Можно ли доверять

Осторожно. Текст опубликован на IEEE Spectrum с пометкой, что он подготовлен при поддержке VicOne, и продвигает продукты компании и её белую книгу; независимых комментариев экспертов в нём нет. Названия конкретных проектов, номера CVE и распределение находок по производителям не приведены, не названы использованный ИИ-инструмент и способ измерения «менее двух дней», нет сведений о подтверждении находок производителями или выпуске патчей. Сама компания оговаривает, что число 28 может измениться после проверки. Вопрос из заголовка оригинала («Успевает ли безопасность робототехники?») измерениями не подкреплён.

Риски и подводные камни

Описанные последствия (скрытые изменения модели, подмена результатов симуляции, потеря оператором обзора или управления) названы потенциальными, а не продемонстрированными для всех находок; реальный эффект зависит от доступа атакующего, устройства системы и других защитных мер. Единственный конкретный пример, отдельная демонстрация, в которой исследователи VicOne заставили не работать команду удалённой остановки робота. Данные об использовании уязвимостей в реальных атаках в материале не приведены. Кроме того, даже выпущенный патч нужно проверять на совместимость и сохранение нужного поведения.

Компания Meta Platforms признана экстремистской организацией, её деятельность на территории РФ запрещена.