Anthropic заявила, что Claude нашёл систему, похожую на Crispr

23 сентября Anthropic объявила, что её языковая модель Claude выявила ферментную систему со свойствами, «напоминающими Crispr», нобелевского инструмента редактирования генов. По данным Anthropic, около 950 агентов Claude, работавших одновременно, нашли интересные генетические последовательности за 21,5 часа. Это первый результат исследовательской группы, которую Anthropic создала в этом году; у компании есть лаборатория для поиска лекарств.

Исследователи Anthropic поручили Claude просмотреть огромные геномные базы данных в поисках «интересных новых примеров» обратных транскриптаз, белков, которые копируют РНК в ДНК. Сначала агенты нашли более 200 000 возможных обратных транскриптаз, затем отобрали несколько тысяч, которые выглядели новыми, и сузили круг до «необычного» семейства с длинным участком повторяющихся последовательностей ДНК, похожим на Crispr. Anthropic назвала систему ART (array-associated reverse transcriptases, обратные транскриптазы, связанные с массивами повторов). Она обнаружена у джамбо-фагов, крупных вирусов, заражающих бактерии. Один из ИИ-агентов написал: «Я вижу на глаз массив тандемных повторов… это Crispr-подобный массив повторов?!» Он же допустил, что система может оказаться ретроном (об этом сказано в техническом отчёте). Crispr и ретроны, бактериальные иммунные системы, но ретроны не так универсальны, как Crispr; поэтому, отмечает Wired, неудивительно, что в блоге Anthropic акцент сделан на сравнении с Crispr.

В техническом отчёте, который не прошёл рецензирование, описан один физический эксперимент. Неизвестно, можно ли использовать эту систему для редактирования генов и будет ли она полезной. Сама Anthropic в посте на X написала: «Мы пока не понимаем, что делает эта система, но лишь горстка известных систем обладает такими же признаками, и все они умеют резать, копировать и вставлять ДНК».

Оценки учёных разошлись. Фёдор Урнов (Fyodor Urnov, эксперт по редактированию генов из Калифорнийского университета в Беркли и директор по терапевтическим разработкам его Innovative Genomics Institute) искренне поздравил Anthropic с тем, что она рассказала о находке; институт сотрудничает с Anthropic, но в этом открытии не участвовал. Ле Конг (Le Cong), профессор Стэнфорда, занимающийся применением ИИ в геномной инженерии, сказал: «Эксперименты всё ещё стоят в очереди. Пиар уже запущен». Он сравнил находку с блестящим предметом, который ИИ нашёл на пляже среди песка: чтобы понять, стекло это или бриллиант, надо вернуться в лабораторию.

Сет Шипман (Seth Shipman) из Gladstone Institutes не считает, что найдена новая система Crispr, но называет открытие интересным: «Новое здесь то, как они это нашли, а не что это такое». Поиск новых обратных транскриптаз вручную по геномным базам может занимать месяцы, так что результат за день впечатляет. Однако он предостерегает от утверждений, что Claude сделал открытие автономно: в исследовании участвовали учёные. Его лаборатория использовала ретроны для создания систем редактирования генов, так что такое применение возможно.

Джейсон Гилл (Jason Gill), микробиолог из Техасского университета A&M, напоминает: ту же обратную транскриптазу он с коллегами описал в статье 2021 года о джамбо-фагах. Новым может быть то, что Claude заметил вокруг неё повторы, намекающие на Crispr-подобную систему. По словам Гилла, модели находят закономерности лучше человека, который разглядывает данные глазами, а человек мог бы сделать то же, но ему нужна заранее готовая гипотеза. Он добавляет, что у ART нет «очевидной связи» с известными системами Crispr, и доказывать наличие редактирующей активности предстоит Anthropic.

Wired отмечает и проблему прозрачности: научное сообщество не может оценить, на чём обучалась модель, а это нетипично в эпоху, когда журналы требуют публиковать код ради воспроизводимости. Один исследователь, изучавший именно эти ферменты, заподозрил, что модель обучали на его работе: он делился неопубликованными результатами с публичной версией Claude. Anthropic ответила газете The New York Times, что Claude «не обучали на пользовательских диалогах, и у нашей команды молекулярной биологии такого доступа тоже нет».

Глава Anthropic Дарио Амодеи (Dario Amodei) написал в X, что в будущем Claude, возможно, сможет сам безопасно ставить эксперименты, управляя лабораторным оборудованием; сразу после этого он добавил, что лаборатории Anthropic имеют самый низкий уровень биобезопасности. По оценке Wired, даже если это окажется возможным, речь о достаточно отдалённом будущем. Для сравнения: от обнаружения последовательностей Crispr в бактериях в 1987 году до демонстрации Дудной и Шарпантье программируемого инструмента для разрезания ДНК в 2012-м прошло 25 лет, а препарат на основе Crispr пока на рынке только один (одобрен в конце 2023 года). Вопрос, по мнению издания, в том, способна ли ИИ-модель найти что-то полезное, не зная точно, что она ищет. Конг предлагает более строгий тест: обучить ИИ только на знаниях до открытия Crispr и посмотреть, откроет ли он его сам.

Ключевые факты

• 23 сентября Anthropic объявила, что около 950 агентов Claude за 21,5 часа нашли ферментную систему ART (обратные транскриптазы, связанные с массивами повторов) у джамбо-фагов со свойствами, «напоминающими Crispr».
• В отчёте, не прошедшем рецензирование, описан один физический эксперимент; неизвестно, можно ли использовать ART для редактирования генов.
• Шипман не считает находку новой системой Crispr и допускает, что это ретрон; Гилл сообщает, что ту же транскриптазу описали в 2021 году, а доказывать активность должна Anthropic.
• Ле Конг: «Эксперименты всё ещё стоят в очереди. Пиар уже запущен»; учёные также критикуют непрозрачность обучающих данных модели.
• Шипман называет впечатляющим сам метод: ручной поиск новых обратных транскриптаз может занимать месяцы, а Claude справился за день.

Почему это важно

Технологические компании давно обещают, что ИИ ускорит открытия в биологии, и Anthropic объявила первый результат своей новой исследовательской группы. Но Wired подчёркивает: значимость находки пока неясна. Неизвестно, работает ли ART как инструмент редактирования генов и полезен ли он. По оценке Шипмана, новизна, в способе поиска (за день вместо месяцев ручной работы), а не в самом ферменте.

Кому это важно

Биологам и специалистам по редактированию генов, которые будут проверять ART в лаборатории. Тем, кто следит за темой «ИИ-учёного»: случай показывает и сильные стороны моделей (поиск закономерностей в огромных данных), и ограничения. Также он интересен тем, кто оценивает прозрачность ИИ-компаний: данные обучения модели независимо оценить нельзя.

Как это применить

Практический вывод пока ограничен: ART, не готовый инструмент, а гипотеза, которую нужно проверить в лаборатории. Пример показывает схему работы: люди ставят задачу (искать новые обратные транскриптазы в геномных базах), агенты Claude масштабно перебирают данные, а специалисты оценивают результат. Гилл замечает, что человек мог бы сделать то же, но при условии заранее готовой гипотезы. По оценке Wired, модель, возможно, пригодится и для других проектов с большими массивами данных, но это не значит, что Claude вдруг ускорит все открытия в науках о жизни.

Можно ли доверять

Основа сюжета, заявления самой Anthropic, а её технический отчёт не рецензировался и содержит один эксперимент. Независимые учёные оценивают находку осторожно. Шипман и Гилл сомневаются, что это новая система Crispr, а сама Anthropic в посте на X признаёт, что пока не понимает, что делает система. Шипман также предостерегает от слов о «самостоятельном» открытии Claude: в работе участвовали учёные. Материал Wired, журналистский разбор со ссылками на независимых экспертов; Урнов представляет институт, который сотрудничает с Anthropic, но в этой работе не участвовал.

Риски и подводные камни

Главный риск, преждевременный шум: по словам Конга, пиар опередил эксперименты. Второй, путаница с определениями: Crispr и ретроны, оба бактериальные иммунные системы, но ретроны не так универсальны. Третий, непрозрачность обучающих данных: один исследователь, изучавший эти ферменты, заподозрил, что модель обучили на его неопубликованных результатах, которыми он делился с публичной версией Claude; Anthropic в ответ The New York Times заявила, что Claude не обучали на пользовательских диалогах. Идея, что Claude сам будет управлять лабораторным оборудованием, по оценке Wired, относится к достаточно отдалённому будущему и поднимает вопросы безопасности и контроля; Амодеи отметил, что лаборатории Anthropic имеют самый низкий уровень биобезопасности.

«Эксперименты всё ещё стоят в очереди. Пиар уже запущен.»

— Ле Конг, профессор Стэнфордского университета