ИИ-агент на Claude Sonnet 5 сделал инъекцию в мозг живой мыши

Биотех-предприниматель Габриэль Окана Сантеро, глава и сооснователь Exin Therapeutics (стартап из Сан-Франциско, который с помощью ИИ анализирует активность мозга, чтобы разрабатывать лекарства от эпилепсии и нейродегенеративных болезней), рассказал Wired, что его команда дала ИИ-агенту прямой доступ к лабораторному оборудованию. Об эксперименте Сантеро написал в соцсетях. По его словам, интересно было проверить, что будет, если агента не просто просить спланировать эксперимент или разобрать результаты, а подключить к лаборатории: «Мы поняли, что для максимальной отдачи этих агентов нужно подключать к лаборатории».

Команда собрала специальную установку для инъекций в мозг мышей: моторизованное устройство, фиксирующее животное, и камеру, через которую агент наблюдал за процедурой, двигал иглу и управлял подачей вещества. Проверяли генную терапию: снизит ли она число приступов у мыши с эпилепсией. Агенту предложили выбрать терапию из 19 вариантов в таблице. Краниотомию (вскрытие черепа) сделал ветеринарный хирург, пока агент наблюдал. Затем агент выбрал терапию, область мозга и координаты инъекции и управлял роботизированными манипуляторами и иглой, а также всеми параметрами, например объёмом и скоростью введения.

Сначала команда пробовала Claude Opus 5.5 от Anthropic, но он отказался вести иглу в мозг мыши: модель сочла, что может остановиться посреди операции, а это опасно для животного. По словам Сантеро, агент спланировал эксперимент, но перед инъекцией сказал: «что-то в моём выводе подсказывает, что мне не стоит этого делать». «Это было очень интересно», добавил Сантеро. Тогда команда перешла на Claude Sonnet 5, и тот согласился продолжить. Wired замечает, что по описанию Anthropic Opus лучше подходит для сложных многошаговых задач, а Sonnet, для повседневных, хотя называть операцию на мозге мыши обычным делом сложно. Anthropic на запрос о комментарии не ответила.

Без сбоев не обошлось. Заранее ввели защиту: ИИ должен был предложить план инъекции на утверждение человеку, а у оператора была аварийная кнопка, отключающая моторы установки. Кроме того, доступ агента к коду оборудования ограничили, чтобы он не мог менять собственные правила работы. Затем технический сбой нарушил систему координат. Агент верно понял, что рассчитанная точка инъекции неверна, но отказался править код, потому что инструкции прямо это запрещали. Проблему решили так: другой ИИ-агент на Opus 5 внёс нужные правки в код, причём ему не сказали, что идёт живая операция. Из-за такой переписки процедура затянулась: обычно подобная инъекция занимает около 45 минут, а здесь эксперимент длился чуть больше часа.

Сейчас команда ждёт, когда терапия начнёт действовать, чтобы оценить влияние на приступы. Сантеро говорит, что мышь хорошо восстанавливается. Несмотря на сбои, команда осталась довольна работой агента. Дальше будут тестировать Grok и другие модели, чтобы выяснить, справляется ли какая-то лучше. Компания также экспериментирует с краниотомией под управлением агента, гораздо более сложной задачей, но хочет быть абсолютно уверена в безопасности, прежде чем переходить к живым операциям: «Ошибка на этом этапе могла бы серьёзно навредить мыши». Сантеро считает, что ИИ-агенты будут всё чаще работать рядом с учёными-людьми, имея прямой доступ к оборудованию, но пока ключевым остаётся контроль человека, особенно с живыми животными. А применять ИИ-агента на мозге человека, по словам Wired, слишком рано.

Ключевые факты

Команда Exin Therapeutics подключила ИИ-агента к самодельной роботизированной установке: агент выбрал терапию из 19 вариантов, область мозга и координаты, управлял иглой, объёмом и скоростью введения генной терапии живой мыши с эпилепсией.
Claude Opus 5.5 отказался вести иглу, опасаясь остановиться посреди операции; Claude Sonnet 5 согласился. Краниотомию сделал ветеринарный хирург.
Защита: план инъекции утверждал человек, была аварийная кнопка отключения моторов, а доступ агента к коду оборудования ограничили.
Из-за сбоя системы координат агент отказался править код (это запрещали инструкции); правки внёс другой агент на Opus 5, которому не сказали про живую операцию. Процедура заняла чуть больше часа вместо обычных около 45 минут.
Эффект терапии на приступы пока не оценён; по словам Сантеро, мышь хорошо восстанавливается, а на мозге человека ИИ-агента применять слишком рано.

Почему это важно

Обычно ИИ в науке планирует эксперименты и анализирует данные, а руки остаются за людьми. Здесь агент сам управлял оборудованием в ходе операции на живом животном. Сантеро объясняет мотив тем, что модели учатся в основном на опубликованной литературе и могут упускать детали самого процесса: неудачные опыты, неожиданные наблюдения, решения учёных на ходу. Связка с реальными экспериментами, по его мнению, делает модели надёжнее. Любопытна и деталь про разницу в поведении моделей: одна отказалась вести иглу, другая согласилась.

Кому это важно

Исследователям и компаниям, которые строят автоматизированные лаборатории и ИИ-агентов с доступом к оборудованию; специалистам по безопасности ИИ, которых заинтересуют отказ модели и ограничения на правку кода; тем, кто следит за различиями между моделями Anthropic и конкурентами. Сантеро ожидает, что агенты будут всё чаще работать рядом с учёными-людьми.

Как это применить

Это демонстрация одной команды, а не готовый продукт. Из описания можно взять схему мер предосторожности: план действий на утверждение человеком, аварийная кнопка отключения моторов, закрытый для агента код оборудования. Команда дальше тестирует Grok и другие модели, а автоматизированную краниотомию пока не переводит на живых животных, пока не будет уверена в безопасности.

Можно ли доверять

Сведения об эксперименте исходят от самого Сантеро, который рассказал о нём в соцсетях и в интервью Wired. Эффект терапии на приступы ещё не оценён, так что результат лечения неизвестен; сообщается лишь, что мышь хорошо восстанавливается. Какая именно терапия была выбрана из 19 вариантов, не названо. Anthropic на запрос о комментарии не ответила. Это единичный случай, а не серия опытов.

Риски и подводные камни

Сам Сантеро признаёт, что на этапе краниотомии ошибка могла бы серьёзно навредить мыши, поэтому живые операции с такой автоматизацией откладываются до уверенности в безопасности. В эксперименте уже случился сбой системы координат, и процедура затянулась. Починивший код агент не знал, что идёт живая операция, что само по себе тонкое место в организации таких процессов. Использовать ИИ-агента на мозге человека, по словам Wired, пока слишком рано; человеческий контроль, особенно при работе с живыми животными, остаётся ключевым.

«Мы поняли, что для максимальной отдачи этих агентов нужно подключать к лаборатории.»

— Габриэль Окана Сантеро, глава и сооснователь Exin Therapeutics, в интервью Wired