Radical Numerics анонсировала Omnii Defense: ИИ против биооружия

В среду стартап Radical Numerics из Сан-Франциско анонсировал Omnii Defense, «граничную» (edge) модель, то есть работающую на устройстве пользователя, а не в облаке. Она предназначена для того, чтобы помечать природные и созданные с помощью ИИ патогены, используя ноутбук и USB-секвенатор генов. Модель может работать и без интернета, поэтому ею могут пользоваться исследователи в полевых условиях с плохой связью. Крупные ИИ-лаборатории предупреждали, что их технологии способны помочь в создании опасного биооружия; многие учёные, как отмечает Wired, считают такую угрозу маловероятной, но Radical Numerics надеется, что её разработка поможет учёным и специалистам общественного здравоохранения выявлять новые биологические угрозы.
Генеральный директор и сооснователь компании Эрик Нгуен говорит, что видит грядущую гонку вооружений в биозащите, по аналогии с кибербезопасностью, где и злоумышленники, и защитники используют ИИ, чтобы получить преимущество. «Мы почувствовали, что сфера биобезопасности сильно отстаёт в защите», говорит он. Нгуен и его сооснователи входили в исследовательскую команду, создавшую Evo и Evo-2, открытые базовые модели ДНК, над которыми они работали во время докторантуры в Стэнфорде. Radical Numerics основана в 2025 году. Недавно компания привлекла внимание, выпустив Omnii, геномную языковую модель, обученную не только на ДНК, но и на РНК, белках и эпигенетических сигналах.
Omnii Defense делает несколько предсказаний о последовательности: вероятность того, что она патогенна или сгенерирована ИИ, и на какую таксономическую группу она больше всего похожа. Модель присваивает геному «оценку угрозы» от нуля до единицы, которая объединяет вероятность «неестественности» с предсказаниями о функции; чем выше оценка, тем выше угроза. Прежние инструменты биозащиты, например финансируемый федеральными властями Felix (Finding Engineering-Linked Indicators), сравнивают интересующие последовательности с библиотеками известных организмов, по сути ищут каталогизированные совпадения. Это полезно, если злоумышленник внёс несколько правок в существующий патоген, но предсказаний, как у Omnii, такие инструменты не делают. ИИ-модели могут учить закономерности, связанные с биологической функцией, а не опираться на точные совпадения, и потому, как пишет Wired, способны распознавать сходство последовательностей, даже если «генетическое написание» изменилось. Руководитель направления биозащиты Radical Numerics Кристин Партемор называет Omnii «качественным скачком» (step change).
В одном из экспериментов компания убрала из обучающих данных вирус Бундибугьо, он сейчас вызывает вспышку Эболы в Восточной Африке, сначала на уровне вида, затем всего рода. «Как будто Omnii работала в 1976 году», говорит Партемор, имея в виду год открытия Эболы. Когда был удалён только вид, модель всё равно определила как патогенные 33% поданных ей последовательностей Бундибугьо. Когда удалили весь род, она пометила 22% вирусных последовательностей. Инструменты без ИИ, по словам Партемор, почти не показали признаков потенциального риска.
Бронвин Макиннис, директор по наблюдению за патогенами в программе по инфекционным болезням и микробиому Института Броуд при MIT и Гарварде, считает разумным использовать технологии, чтобы опережать недобросовестных акторов, но предупреждает: обнаружить сигнал, это ещё далеко не то же самое, что определить, имеет ли патоген реальные последствия и была ли угроза создана искусственно.
К контексту: в октябре Radical объявила, что с помощью Omnii создала нестандартные бактериофаги против устойчивого к лекарствам штамма E. coli; их коктейль применили для лечения тяжелобольного пациента по специальному разрешению FDA. В том исследовании участвовал и другой ИИ-биотех-стартап, Tabula Bioscience, но Radical не упомянула партнёрство в анонсе. Из-за этого генетик из Гарварда Джордж Чёрч, консультировавший обе компании, на прошлой неделе ушёл из Radical.
Доступ к Omnii Defense сейчас ограничен проверенными внешними тестерами. Radical Numerics сообщает, что работает с национальными лабораториями, государственными ведомствами и другими независимыми оценщиками, чтобы оценить качество модели.
Ключевые факты
- Radical Numerics анонсировала Omnii Defense, модель, которая с ноутбука и USB-секвенатора генов помечает природные и созданные ИИ патогены и работает без интернета; доступ пока у проверенных внешних тестеров.
- Модель выдаёт вероятность патогенности и «искусственности», сходство с таксономической группой и общую «оценку угрозы» от 0 до 1; прежние инструменты вроде Felix ищут совпадения в каталогах известных организмов.
- По словам Партемор, в эксперименте без вируса Бундибугьо в обучающих данных модель пометила 33% его последовательностей при удалённом виде и 22% вирусных последовательностей при удалённом роде; инструменты без ИИ почти ничего не показали.
- Эксперт из Института Броуд предупреждает: найти сигнал, не значит понять реальные последствия и искусственное происхождение угрозы.
- Джордж Чёрч ушёл из Radical, потому что компания не раскрыла в октябрьском анонсе партнёрство с Tabula Bioscience.
Почему это важно
Главный довод новости, защита от биоугроз пытается догнать нападение: прежние инструменты ищут совпадения с известными организмами, а Omnii Defense делает предсказания по функции последовательности. Если подход сработает, он поможет замечать патогены, чья «генетическая запись» изменилась. При этом сама угроза, по оценке многих учёных, остаётся маловероятной, а эффективность модели пока подтверждена лишь заявлениями компании.
Кому это важно
Исследователям-полевикам и специалистам общественного здравоохранения, которым нужно оценивать последовательности на месте, без стабильного интернета. Также тем, кто следит за биобезопасностью и ИИ: Radical Numerics прямо сравнивает ситуацию с гонкой вооружений в кибербезопасности.
Как это применить
Сейчас никак для широкого круга: доступ к Omnii Defense ограничен проверенными внешними тестерами. Сроки открытия, цены и условия доступа в материале не названы. Предполагаемый сценарий, ноутбук с USB-секвенатором генов, работа офлайн, итог, оценка угрозы от 0 до 1 и предсказание таксономической группы.
Можно ли доверять
Осторожно. Цифры 33% и 22% получены в эксперименте самой компании и пересказаны Кристин Партемор, главой её направления биозащиты; о независимой проверке не сообщается. Какой порог считать высокой угрозой, не сказано. Положительный отзыв Бронвин Макиннис касается идеи, а не результатов, и сопровождается оговоркой. Дополнительно компания недавно пережила репутационный эпизод с нераскрытым партнёрством.
Риски и подводные камни
Обнаружение сигнала не равно определению реальной опасности или искусственного происхождения угрозы, на это указывает Макиннис. Для оценки качества модели Radical Numerics только привлекает национальные лаборатории, госведомства и независимых оценщиков, их имена не названы. Число проверенных последовательностей Бундибугьо и информация о ложных срабатываниях не приведены. Уход Джорджа Чёрча из-за нераскрытого партнёрства с Tabula Bioscience бросает тень на прозрачность компании.
«Нам необходимо быть бдительными в отношении того, что делает возможным ИИ, и если мы можем использовать технологии, чтобы конкурировать с ним и, надеюсь, опередить любых недобросовестных акторов, это кажется разумным.»
— Бронвин Макиннис, директор по наблюдению за патогенами в программе по инфекционным болезням и микробиому Института Броуд при MIT и Гарварде