Google DeepMind представила AlphaProof Code: ИИ-агенты доказали безопасность кода Signal

Google DeepMind объявила об AlphaProof Code, мультимодельной (multi-LLM) агентной системе для формальной верификации программ. По заявлению компании, исследователи с её помощью математически доказали ключевые свойства безопасности реального кода, лежащего в основе протокола Signal. Этот протокол защищает, как сказано в тексте, миллиарды приватных разговоров в приложениях вроде Signal и Google Messages. Формальная верификация, математическое доказательство того, что код работает правильно и без ошибок, названа в тексте высшим стандартом гарантий безопасности, но трудоёмкой.
DeepMind утверждает, что это первый случай, когда ИИ использовали для формальной верификации широко применяемого криптографического протокола на такой глубине. Кроме того, по её словам, это вообще первый случай формальной верификации реализации такого протокола, любым методом, с ИИ или без него.
Работа устроена как в исследовательской команде: люди вместе с ИИ решают, что именно доказывать, а группа ИИ-агентов выполняет доказательство. Сначала исследователи совместно с набором моделей перевели цели безопасности Signal в формальные математические спецификации, причём каждую спецификацию проверяли эксперты-люди. Затем агенты на базе Gemini Carbon выполнили доказательства, сгенерировав более шести миллионов строк на языке Lean, языке, на котором машина проверяет математическую корректность кода. После этого агенты провели аудит доказательства и отметили участки, требующие повторного взгляда человека: это всего около одного процента кодовой базы. Остальное автоматически проверяет Lean, поэтому эксперты сосредоточились там, где нужно человеческое суждение.
По словам авторов, большинство верификаций протоколов останавливается на уровне дизайна, а реальные уязвимости часто прячутся на стыке дизайна и реализации. Агенты пошли дальше: доказали, что скомпилированный код выполняет ключевые свойства безопасности, например, защиту сообщений до и после временной компрометации устройства, вплоть до точного кода, работающего на устройствах. Весь процесс занял четыре недели; задача, как утверждает DeepMind, исторически занимает у команд экспертов годы (конкретная цифра не названа). Доказано, что базовый криптографический код Signal обеспечивает защиту, которую задали эксперты.
Чтобы проверить, отличает ли система корректный код от ошибочного, исследователи вернули в изолированную версию кода Signal две реальные, ранее исправленные ошибки. В обоих случаях система выдала машинно проверенное доказательство того, что версия с ошибкой небезопасна.
В завершение DeepMind пишет, что верификация ядра криптографии Signal закладывает основу для защиты других важных систем, от прошивок медицинских устройств до ПО энергосетей, но масштабирование методов требует дальнейших исследований. В паре с автоматическими защитными агентами вроде CodeMender формальная верификация, по мнению компании, поможет противостоять скорости и масштабу современных кибератак. Артефакты формальной верификации DeepMind открывает для сообщества; к материалу приложена техническая статья. Исследование разработали Сварат Чаудхури, Эндрю Ферайуоло, Антон Ковшаров, Тедж Чаджед, Сэм Шлезингер, Карн Сет, Джонатан Кац, Чарльз Саттон и Пушмит Кохли; сотрудники Signal Рольф Шмидт, Майкл Розенберг и Эрен Крет дали отзывы по методологии.
Ключевые факты
- AlphaProof Code, мультимодельная агентная система DeepMind: люди с ИИ решают, что доказывать, а группа ИИ-агентов выполняет доказательство.
- Агенты на базе Gemini Carbon сгенерировали более шести миллионов строк на Lean и доказали ключевые свойства безопасности реального кода протокола Signal, вплоть до кода, работающего на устройствах.
- Процесс занял четыре недели; по словам DeepMind, такая задача исторически занимает у команд экспертов годы. Человеку агенты отметили для повторной проверки около одного процента кодовой базы.
- В тесте в изолированный код Signal вернули две ранее исправленные ошибки, в обоих случаях система выдала машинно проверенное доказательство небезопасности.
- DeepMind называет работу первой в своём роде и открывает артефакты верификации, но оговаривает, что масштабирование требует дальнейших исследований.
Почему это важно
Криптографические протоколы лежат в основе почти всей цифровой связи, от онлайн-банкинга до просмотра сайтов, и одна ошибка может открыть данные миллионов людей. Обычно формально проверяют дизайн протокола, а уязвимости нередко возникают на стыке дизайна и реализации. Здесь, по заявлению DeepMind, доказательство дошло до реального кода, работающего на устройствах. Компания называет это первым случаем такой глубины для ИИ и первой формальной верификацией реализации такого протокола вообще. Другая сторона заявления, скорость: четыре недели вместо лет работы экспертов, по оценке самой DeepMind.
Кому это важно
Разработчикам и инженерам по безопасности, которые отвечают за криптографический и другой критичный код. Исследователям формальных методов и Lean, как пример того, как ИИ-агенты генерируют и проверяют доказательства в больших объёмах. Командам, поддерживающим мессенджеры и защищённые системы связи. По мысли DeepMind, подход со временем может пригодиться и для прошивок медицинских устройств и ПО энергосетей, но компания прямо пишет, что это пока лишь основа и требует дальнейших исследований.
Как это применить
DeepMind заявляет, что открывает артефакты формальной верификации для сообщества и приложила техническую статью. Из текста видно рабочую схему: сначала цели безопасности переводятся в формальные спецификации с проверкой каждой экспертом, затем агенты строят доказательства на Lean, затем аудитируют их и отмечают для человека небольшую долю кода. Практический вывод для команд: ключевая роль человека, в постановке и проверке спецификаций, а корректность самих доказательств автоматически проверяет Lean.
Можно ли доверять
Источник, собственный блог DeepMind, то есть самооценка авторов, а не независимая проверка. Заявления «первый случай» и «годы работы экспертов» принадлежат компании; для срока в годы конкретной цифры не дано. Сильная сторона: доказательства машинно проверяются на Lean, а в тесте с двумя возвращёнными ошибками система выдала доказательство небезопасности обоих вариантов. Сотрудники Signal упомянуты в благодарностях за отзывы по методологии; других подтверждений от Signal в тексте нет. Техническая статья и открытые артефакты позволят проверить работу, когда их изучат независимые специалисты.
Риски и подводные камни
Доказательство касается свойств, которые люди сформулировали как спецификации, и «ключевых свойств безопасности» базового криптографического кода Signal, а не безопасности всего приложения. Корректность результата зависит от того, насколько спецификации отражают реальные цели безопасности; поэтому каждую проверяли эксперты. Около одного процента кодовой базы потребовало повторного взгляда человека, значит, участие экспертов не исчезает. Сама DeepMind оговаривает, что масштабирование техник требует дальнейших исследований, а выводы о защите медицинских прошивок и энергосетей пока только перспектива. Уязвимостей в нынешнем коде Signal в тексте не названо: найденные ошибки, это две ранее исправленные, возвращённые намеренно для теста.
«Наша работа, первый случай, когда ИИ использовали для формальной верификации широко применяемого криптографического протокола на такой глубине.»
— Google DeepMind, блог