Стартап хочет бороться с биологическим оружием на основе ИИ с помощью ИИ

Модель для работы в поле

Руководители передовых лабораторий ИИ предупреждали, что их технологии могут упростить разработку опасного биологического оружия. Radical Numerics утверждает, что создала защитный инструмент: Omnii Defense способна работать без интернета, в том числе там, где связь нестабильна.

Сооснователь и генеральный директор Radical Numerics Эрик Нгуен ожидает гонку вооружений в биологической безопасности, похожую на происходящее в кибербезопасности: злоумышленники и специалисты по защите используют ИИ, пытаясь получить преимущество. По его словам, защита в области биобезопасности отстаёт.

Нгуен и его сооснователи участвовали в создании Evo и Evo-2 — открытых базовых моделей ДНК, над которыми работали во время докторантуры в Стэнфордском университете. Radical Numerics основали в 2025 году.

Компания из Сан-Франциско ранее представила Omnii — языковую модель генома, обученную на разных типах биологических данных, включая ДНК, РНК, белки и эпигенетические сигналы. В октябре Radical сообщила, что с помощью Omnii создала бактериофаги — вирусы, заражающие и уничтожающие определённые бактерии. Их нацелили на лекарственно-устойчивый штамм E. coli. Смесь бактериофагов применили для лечения тяжело больного пациента с особого разрешения Управления по контролю качества пищевых продуктов и лекарственных средств США.

В исследовании также участвовал другой биотехнологический стартап, Tabula Bioscience, однако Radical не упомянула о партнёрстве в объявлении прошлого месяца. После этого генетик из Гарварда Джордж Чёрч, консультировавший обе компании, на прошлой неделе покинул должность в Radical.

Как Omnii Defense оценивает угрозы

Модель анализирует генетическую последовательность и оценивает вероятность того, что она связана с патогеном или создана с помощью ИИ. Она также определяет, на какую таксономическую группу организмов последовательность больше всего похожа.

Omnii Defense присваивает геному оценку угрозы от нуля до единицы. Она объединяет вероятность искусственного происхождения с прогнозами о функциях последовательности: чем выше оценка, тем выше предполагаемая угроза.

Ранее разработанные инструменты биозащиты, в том числе финансируемая федеральными властями система Finding Engineering-Linked Indicators (Felix), сравнивают интересующие генетические последовательности с библиотеками известных организмов. Такой поиск совпадений может помочь, если злоумышленник немного изменил уже существующий патоген. Но эти инструменты не предназначены для прогнозирования, как Omnii.

ИИ-модели могут выявлять закономерности, связанные с биологическими функциями, вместо того чтобы искать точные совпадения последовательностей. Поэтому они потенциально способны распознавать сходство даже при изменении генетического «написания». Руководитель направления биозащиты Radical Numerics Кристин Партемор назвала такой подход серьёзным изменением возможностей.

Компания проверила модель на вирусе Бундибуджо, который сейчас вызывает вспышку лихорадки Эбола в Восточной Африке. Исследователи исключили вирус из обучающих данных сначала на уровне вида, а затем всего рода. По словам Партемор, это было похоже на работу Omnii в 1976 году — когда обнаружили Эболу.

Если из обучения убрали только вид, модель распознала признаки патогенности в 33% переданных ей последовательностей вируса Бундибуджо. Если исключили весь род, она отметила 22% вирусных последовательностей. Партемор утверждает, что обычные инструменты в этих экспериментах практически не указали на возможный риск.

Бронуин Макиннис, директор по надзору за патогенами в программе по инфекционным заболеваниям и микробиому Института Броуда при MIT и Гарварде, считает разумным использовать технологии, чтобы противостоять опасностям, которые создаёт ИИ, и опережать злоумышленников. Но она предупреждает: обнаружить сигнал — ещё не значит определить, насколько опасен патоген и был ли он создан искусственно.

Доступ пока ограничен

Omnii Defense пока доступна только проверенным внешним тестировщикам. Radical Numerics работает с национальными лабораториями, государственными ведомствами и независимыми экспертами, чтобы оценить результаты модели.

По оценке Dataist, Omnii Defense может расширить возможности первичного поиска неизвестных угроз, но её результаты сами по себе не устанавливают ни реальную опасность патогена, ни его искусственное происхождение. Компания ещё проверяет модель вместе с внешними организациями, поэтому её практическая эффективность пока оценивается.