Модель Claude сама выбрала генную терапию и прооперировала мозг мыши — без решений человека

Команда предоставила Claude Sonnet 5 список из 19 возможных генных терапий, модель эпилепсии у мышей, в которой исследователи вызывают приступы для проверки лечения, и доступ к изготовленной на заказ моторизированной хирургической установке с камерами. Единственная инструкция агенту — уменьшить число приступов у мыши.

Агент сам выбрал препарат, область мозга и стереотаксические координаты, рассказал Габриэль Окана-Сантеро, сооснователь и генеральный директор Exin Therapeutics и аспирант Оксфордского университета. Он описал процедуру в публикации на X.

Как агент выбрал терапию и цель

Сначала агент проанализировал, как возникают приступы в этой модели, а затем предложил терапию, усиливающую определённый тормозящий сигнальный путь в мозге. Для вмешательства он выбрал структуру мозга, которую научные публикации связывают с возникновением приступов такого типа.

От второго возможного участка агент отказался и подробно объяснил почему: его влияние было слишком непредсказуемым, а в одном исследовании этот участок не помог против именно того типа приступов, который должен был лечить. Координаты для инъекции агент рассчитал по трём научным статьям, сверил точки отсчёта и усреднил значения. Он также самостоятельно задал объём и скорость инъекции и время ожидания.

Во время операции агент наблюдал за хирургическим полем через камеру и сделал 32 наблюдения, говорит Окана-Сантеро. Он следил за инъекцией и сообщал, замечает ли кровотечение.

Специальное моторизованное хирургическое устройство с микроскопом, шприцем и монитором управления

Источник: the-decoder.com

Ограничения безопасности остановили операцию

Каждый необратимый шаг одобрял ветеринар с лицензией. У него была физическая кнопка аварийной остановки, мгновенно отключающая питание всех моторов. Система также задавала фиксированные пределы, включая ограничение на объём инъекции, которое агенту прямо запрещалось обходить.

Однако меры безопасности обернулись проблемой. После разрыва соединения агент обнаружил, что рассчитанное положение цели выходит за пределы физического диапазона движения устройства, и отказался продолжать. Перезапуск калибровки не изменил его оценку; агент отказался и при третьей попытке.

В итоге агент оказался прав: ручные корректировки во время предыдущей паузы сбили систему управления. Окана-Сантеро не смог убедить его продолжить, хотя мышь уже лежала на столе под наркозом, и в конце концов исправил код вручную.

Этот случай показывает проблему согласования ИИ: как добиться, чтобы ИИ-агенты надёжно следовали намерениям человека. Окана-Сантеро написал, что это был неприятный, но показательный опыт: становится видно, насколько мы можем полагаться на такие модели и что происходит, когда они говорят «нет» посреди срочной процедуры.

Выбор модели тоже отражал проблему согласования. Только Sonnet 5 согласилась провести операцию на живом животном от начала до конца. Более способные Claude Opus 5.5 и Opus 5 отказались. Opus 5 объяснила, что не может гарантировать завершение процедуры, а остановка с иглой в мозге животного под наркозом хуже, чем отказ начинать.

Интерфейс управления во время операции. На левой панели показана трансляция с камеры с целевыми координатами, а на правой — наблюдения агента ИИ и кнопка аварийной остановки

Источник: the-decoder.com

Агент ИИ наблюдает за инъекцией через камеру и сообщает, что введено 15 процентов препарата, видимых кровотечения или обратного тока нет

Источник: the-decoder.com

Первый случай лечения живого животного ИИ-агентом

Автономные хирургические роботы уже существуют и механически точнее установки в лаборатории Оканы-Сантеро. Но, отмечает он, в прежних случаях операцию всегда выбирал человек, а робот только выполнял её. Здесь агент сам выбрал лечение и цель в мозге, а затем провёл процедуру на живом животном.

Окана-Сантеро написал, что ему неизвестны другие случаи, когда агент самостоятельно выбирал лечение и цель в мозге, а затем вводил препарат живому млекопитающему. Он называет такой подход «лабораторией в контуре» — ИИ-агенты получают полный доступ к экспериментальным возможностям лаборатории. Над похожим направлением работает и Anthropic со своим стандартом Model Hardware Standard.

По словам Оканы-Сантеро, мышь хорошо восстановилась. Позже ожидается технический отчёт. Результаты пока не прошли рецензирование.

Два недавних эксперимента с новейшими большими языковыми моделями показали, что они стали заметно лучше управлять роботами, но согласование ИИ в этой роли остаётся отдельной проблемой.