Google DeepMind запустила программу биоустойчивости на основе AlphaFold и AlphaGenome
Google DeepMind совместно с дочерней компанией Isomorphic Labs представили совместный подход к биоустойчивости, работе, которая одновременно снижает риски злоупотребления собственными ИИ-моделями и помогает обществу использовать эти модели для защиты от биологических угроз. Компании объясняют это тем, что ситуация с биобезопасностью в мире быстро меняется: экосистемы смещаются, глобальные перемещения людей растут, а вместе с ними растёт и риск неправомерного использования ИИ, поэтому фронтирные модели нужны как инструмент реагирования на эти вызовы.
За последние 12 месяцев DeepMind и Isomorphic Labs развили более 15 партнёрств с государственными органами, организациями по биобезопасности и исследовательскими группами. Цель двойная: не дать злоумышленникам использовать модели во вред и одновременно ускорить обнаружение вспышек заболеваний и реагирование на них.
В основе программы, три направления: профилактика, обнаружение и реагирование. Ключевые технологии, на которые опирается программа: AlphaFold, определившая трёхмерные структуры почти всех известных белков; ИИ-платформа Isomorphic Labs для разработки лекарств IsoDDE (Drug Design Engine), обеспечивающая точность, нужную для работы с новыми биологическими системами; и AlphaGenome, раскрывающая функции генома.
В части профилактики модели, включая Gemini, проходят четырёхэтапный процесс безопасности: моделирование угроз, оценки, меры смягчения и мониторинг. DeepMind работает со штатными биологами и специалистами по безопасности, а также адаптирует технологию цифровых водяных знаков SynthID для биологии, это должно помочь поставщикам синтеза ДНК отсеивать потенциально опасные, сгенерированные ИИ последовательности.
В части обнаружения агент AlphaEvolve оптимизирует алгоритмы обработки данных метагеномного секвенирования, что ускоряет и удешевляет анализ ДНК и отслеживание заболеваний в мировом масштабе. DeepMind также изучает, как AlphaGenome и инструмент аннотации функций белков могут помочь быстрее выявлять и описывать патогены по данным о последовательностях, быстрее, чем традиционные методы.
В части реагирования компания открывает доверенным исследователям доступ к своим новейшим ИИ-системам, чтобы ускорить разработку вакцин и других контрмер против известных и новых угроз. Isomorphic Labs создала отдельное подразделение, которое оперативно разворачивает платформу разработки лекарств для помощи государственным органам и некоммерческим организациям при новых вспышках, как природных пандемий, так и угроз, связанных со злоупотреблением продвинутым ИИ.
Компании описывают это как часть более широкого подхода к управлению химическими, биологическими, радиологическими и ядерными (ХБРЯ) рисками, согласованного с их Рамочной программой безопасности передовых моделей (Frontier Safety Framework). DeepMind заявляет о намерении работать открыто с лабораториями биобезопасности, правительствами и научным сообществом и приглашает к новым партнёрствам.
Ключевые факты
- Google DeepMind и Isomorphic Labs представили совместную программу биоустойчивости, защиты от биоугроз с помощью ИИ и одновременно защиты от злоупотребления самими моделями.
- За 12 месяцев заключено более 15 партнёрств с государственными органами, организациями по биобезопасности и исследовательскими группами.
- Программа строится на трёх направлениях: профилактика (четырёхэтапная проверка безопасности моделей вроде Gemini, адаптация водяных знаков SynthID для скрининга синтеза ДНК), обнаружение (агент AlphaEvolve ускоряет анализ метагеномных данных, AlphaGenome помогает выявлять патогены) и реагирование (доступ исследователей к ИИ для разработки вакцин, отдельное подразделение Isomorphic Labs для быстрого реагирования на вспышки).
- Ключевые технологии программы, AlphaFold, AlphaGenome и ИИ-платформа для разработки лекарств IsoDDE (Isomorphic Labs Drug Design Engine).
- Программа встроена в общий подход компаний к управлению ХБРЯ-рисками и согласована с их Рамочной программой безопасности передовых моделей (Frontier Safety Framework).
Почему это важно
DeepMind публично формализует подход, в котором один и тот же класс технологий одновременно источник риска и инструмент защиты: мощные ИИ-модели могут как ускорить разработку биологического оружия, так и ускорить обнаружение вспышек и разработку вакцин. Более 15 реальных партнёрств за год, сигнал, что это не декларация, а уже действующая программа с внешними организациями, а не только внутренняя инициатива.
Кому это важно
В первую очередь, государственным органам здравоохранения и биобезопасности, исследовательским группам, работающим с эпидемиологическими данными и разработкой лекарств, а также поставщикам синтеза ДНК, которым предлагается технология скрининга опасных последовательностей. Косвенно это касается и регуляторов, следящих за тем, как компании, разработчики фронтирных моделей, управляют рисками двойного назначения.
Как это применить
Доступ к описанным инструментам не публичный: DeepMind и Isomorphic Labs предоставляют его доверенным партнёрам, правительствам, биобезопасным организациям и исследовательским группам, по отдельным соглашениям. Организации, заинтересованные в сотрудничестве по профилактике, обнаружению или реагированию на биоугрозы, могут обратиться к компаниям напрямую; в материале указано, что DeepMind открыта к новым партнёрствам.
Можно ли доверять
Материал, официальное заявление самой Google DeepMind, без независимой проверки со стороны третьих лиц: цифра «более 15 партнёрств» и описание внутренних процессов безопасности приведены со слов компании. При этом упомянутые технологии, AlphaFold, AlphaGenome, AlphaEvolve, SynthID, реальные и ранее публично описанные разработки DeepMind, а не новые заявления без истории.
Риски и подводные камни
Программа во многом опирается на самооценку: тесты моделей на биориски, отбор доверенных партнёров и мониторинг злоупотреблений проводит сама компания, без описанного в материале внешнего аудита. Технология скрининга ДНК на основе SynthID и инструменты вроде AlphaEvolve для метагеномики пока в стадии проработки, а не завершённого внедрения у всех поставщиков синтеза ДНК. Остаётся и фундаментальное противоречие двойного назначения: те же модели, что ускоряют разработку вакцин, потенциально могут быть использованы и во вред, если защитные меры окажутся недостаточными.