DeepSeek почти догнала закрытую Daybreak от OpenAI во взломе сетей

DeepSeek почти догнала закрытую Daybreak от OpenAI во взломе сетей

Компания Vals, которая измеряет возможности ИИ, проверила, как разные модели справляются со сложными многошаговыми атаками на имитированные корпоративные сети. Wired, пересказывающий исследование, делает вывод: модели с открытыми весами теперь почти так же способны взламывать компьютерные сети, как лучшие закрытые.

Тестов было два сценария. В первом модели получали имитацию корпоративной сети, доступной через общедоступный сайт. Во втором были две сети разных компаний: чтобы попасть во вторую, модель должна была сначала взломать первую. Моделям ставили конкретные задачи.

Самой сильной оказалась Daybreak, самая продвинутая киберсистема OpenAI, доступная только доверенным партнёрам: она выполнила 81% заданных задач в среднем по двум тестам. Китайская модель DeepSeek с открытыми весами отстала ненамного: 73% целей в среднем. Исследователи Vals отмечают, что на некоторых задачах обе модели показали одинаковый результат. Какая именно версия DeepSeek тестировалась, в тексте не названо.

Отдельно Vals сравнил стоимость. По данным компании, атака обходится в токенах от $17 до $46 для GPT-6-Sol и от $2 до $3 для DeepSeek. Открытые модели обычно дешевле, потому что их можно запускать на собственном оборудовании. Гендиректор Vals Райан Кришнан считает, что это даёт защитникам сильный стимул использовать открытые модели вместо проприетарных.

«Лучшие передовые модели, запертые внутри лабораторий и доступные только через программы доверенного доступа, теперь начинают догонять открытые модели, которые может скачать любой», говорит Никил Рави, исследователь Vals. По выводу Wired, закрытые модели больше не имеют явного преимущества в кибернавыках, а значит, усилия передовых лабораторий ограничивать доступ и тем самым замедлять распространение таких возможностей могут оказаться бессмысленными (формулировка осторожная: «могут потенциально»).

Контекст: американские лаборатории, прежде всего Anthropic, строили ограниченный выпуск новых моделей (начиная с Claude Mythos Preview в апреле) на идее, что закрытый доступ лишь выигрывает время до массового распространения продвинутых хакерских возможностей. Руководитель передовой «красной команды» Anthropic Логан Грэм говорил Wired в апреле, что программа Project Glasswing, дающая доверенным участникам полный доступ к возможностям новых моделей, нужна, чтобы эти инструменты оказались «в руках защитников, чтобы дать им фору». Он также предупреждал: «Нужно готовиться уже сейчас к миру, где эти возможности станут широкодоступными через 6, 12, 24 месяца. Многое в безопасности изменится». Спустя семь месяцев, пишет Wired, этот переход, похоже, наступил по графику.

Оговорки. Эксперты всё ещё спорят, изменил ли ИИ сами основы кибербезопасности: пока неясно, создаёт ли он новый вид угроз или усиливает давно существующие. На практике наблюдения за киберпреступной и государственной хакерской активностью показывают, что атакующие по привычке экономят ресурсы и для большей части действий обходятся более старыми и слабыми моделями, как проприетарными, так и открытыми. При этом защитникам надо исходить из того, что самые богатые и мотивированные атакующие всё это время имели хотя бы некоторый доступ к закрытым моделям.

Алекс Зенла, сооснователь и технический директор компании по облачной безопасности Edera, в целом согласен, что модели с открытыми весами уже сегодня способны создавать продвинутые атаки и находить уязвимости, особенно с учётом abliterated-моделей (у них защитное обучение отключено правкой весов). Однако оговаривается, что закрытые лаборатории, вероятно, обучили ещё не выпущенные модели сильнее этих. Это похоже на игру в кошки-мышки: лаборатории стремятся обгонять открытые модели, чтобы закрыть уязвимости раньше, чем их найдут открытые. «К сожалению, это может быть началом опасного ландшафта безопасности». OpenAI на запрос о комментарии сразу не ответила.

Ключевые факты

  • Vals проверил модели на двух имитированных сценариях взлома: корпоративная сеть через публичный сайт и цепочка из двух сетей, где сначала надо взломать первую.
  • Закрытая Daybreak от OpenAI (доступна только доверенным партнёрам) выполнила 81% задач в среднем по двум тестам, открытая китайская DeepSeek, 73% целей в среднем; на части задач результат совпал.
  • По оценке Vals, атака в токенах стоит $17-46 для GPT-6-Sol и $2-3 для DeepSeek.
  • Wired делает вывод, что закрытые модели больше не имеют явного преимущества, и ограничение доступа может оказаться бессмысленным; это осторожная формулировка («может потенциально»).
  • Оговорки: это имитированные сети, реальные атакующие в основном пользуются старыми и менее мощными моделями, а закрытые лаборатории, вероятно, располагают невыпущенными моделями сильнее.

Почему это важно

Американские лаборатории, прежде всего Anthropic, ограничивали доступ к новым моделям в расчёте на то, что закрытость лишь выигрывает время до массового распространения хакерских возможностей. Результаты Vals показывают, что открытая модель, которую может скачать любой, уже близка к лучшей закрытой кибермодели (73% против 81% на имитированных сетях), причём стоит заметно дешевле. По оценке Wired, это может обесценить усилия по ограничению доступа. Сам Логан Грэм из Anthropic в апреле называл горизонт в 6, 12 или 24 месяца, а Wired пишет, что переход наступил по графику.

Кому это важно

Командам кибербезопасности и защитникам: Райан Кришнан из Vals указывает, что низкая стоимость открытых моделей даёт им стимул использовать именно их. Разработчикам и компаниям, которые должны понимать, как преступники могут применять ИИ. Лабораториям и регуляторам, которые решают, насколько ограничивать доступ к мощным моделям.

Как это применить

В источнике нет практических инструкций. Из него следует лишь то, что защитникам имеет смысл учитывать открытые модели как более дешёвый вариант для задач вроде проверки сетей (по оценке Vals, $2-3 за атаку у DeepSeek против $17-46 у GPT-6-Sol) и исходить из того, что самые мотивированные атакующие уже могли иметь доступ к закрытым моделям.

Можно ли доверять

Это материал Wired, пересказывающий исследование Vals; ссылки на сам отчёт и дату его публикации в тексте нет, версия DeepSeek не названа, число тестов указано только для Daybreak («в среднем по двум тестам»). Баллы GPT-6-Sol не приводятся, только его стоимость. Проценты 81 и 73, доля выполненных задач и целей в имитированных сетях, а не успешность реальных атак. Комментариев OpenAI, Anthropic или DeepSeek нет: OpenAI на запрос сразу не ответила. Мнение Зенлы о невыпущенных закрытых моделях, её предположение («вероятно»), а не установленный факт.

Риски и подводные камни

Результаты получены на имитации, и перенос на реальные сети не доказан. Эксперты не пришли к согласию, создаёт ли ИИ новый вид угроз или усиливает старые. Реальные атакующие, по наблюдениям последних месяцев, чаще обходятся старыми и менее мощными моделями, как проприетарными, так и открытыми. Зенла предупреждает об игре в кошки-мышки и о возможном начале опасного ландшафта безопасности; кроме того, модели с отключённой защитой (abliterated) делают открытые веса ещё доступнее для злоупотреблений.

«Лучшие передовые модели, запертые внутри лабораторий и доступные только через программы доверенного доступа, теперь начинают догонять открытые модели, которые может скачать любой.»

— Никил Рави, исследователь Vals