Может ли ИИ изменить правила игры в разработке биологического оружия?

Как ИИ может помочь создать биологическое оружие

Риски зависят от того, кто пытается разработать оружие. Один сценарий — неопытный злоумышленник или террористическая группа, работающая в лаборатории в гараже. Чат-боты могут помочь им получить нужные знания, собрать информацию, спланировать эксперименты и устранить возникающие проблемы. Вероятнее всего, такая работа будет связана с уже существующими патогенами и токсинами.

Другой риск связан с хорошо оснащёнными организациями и государствами, у которых есть квалифицированные учёные, лаборатории с высоким уровнем защиты и всё необходимое оборудование и реагенты. Инструменты ИИ могут, например, помочь исследователям находить генетические изменения, способные сделать существующие патогены более смертоносными. По словам Филиппы Лентцос, специалиста по науке и международной безопасности из Королевского колледжа Лондона, это более непосредственная опасность: ИИ не заменяет знания, а усиливает уже имеющуюся экспертизу.

Более отдалённый риск — использование ИИ хорошо подготовленными группами для разработки совершенно новых патогенов и токсинов, устойчивых к лекарствам или не имеющих противоядий.

Пытались ли уже использовать ИИ для создания биологического оружия

В прошлом году полиция Индии раскрыла предполагаемый план биотеракта. По версии следствия, врач и несколько других людей использовали запросы к чат-ботам и поиск на базе ИИ, чтобы попытаться изготовить рицин — смертоносный токсин — с помощью кухонных принадлежностей. Неизвестно, помогли ли им ответы ИИ, однако другие сообщения указывают, что такие инструменты могут выдавать полезную и опасную информацию.

В сентябре компания Anthropic сообщила о пяти случаях, когда учёные из неназванных стран пытались использовать чат-бот Claude для работы с вирусами или токсинами, которая могла быть опасной. Одним из тревожных признаков компания назвала попытки обойти ограничения после того, как чат-бот отказывался выполнять запросы.

В одном случае, по данным Anthropic, исследователи использовали чат-бот, чтобы спланировать эксперименты по внесению мутаций в высокопатогенный вирус птичьего гриппа. Целью было сделать его более приспособленным к млекопитающим и облегчить распространение. Этот и другие случаи могут указывать на попытки сделать патогены опаснее. При этом подобные исследования проводят и в легальных лабораториях: они помогают заранее выявлять угрозы пандемий и разрабатывать вакцины и лекарства.

Что ещё вызвало опасения

Несколько исследований показали, что инструменты ИИ могут предоставлять потенциально опасные сведения о биологическом оружии. Во время недавнего эксперимента в Массачусетском технологическом институте студентам без научной подготовки поручили выяснить, смогут ли они заставить чат-бота помочь развязать пандемию. За час чат-боты перечислили четыре потенциальных возбудителя пандемий, объяснили, как изготовить их из синтетической ДНК, и назвали компании по синтезу ДНК, которые, вероятно, не проверяли бы такие заказы. Однако на практике выполнить подобное оказалось бы гораздо сложнее.

В другом случае исследователь Стэнфордского университета Дэвид Релман рассказал, что ИИ объяснил, как изменить патоген, чтобы сделать его устойчивым к лечению. Ещё один учёный сообщил, что чат-бот рассказал, как использовать метеозонд для сброса биологического оружия с воздуха.

Исследования в биологии могут иметь двойное назначение, поэтому бывает трудно отличить полезную для здоровья работу от попыток разработать биологическое оружие. В 2025 году учёные из Национальной лаборатории Лос-Аламоса обучили ИИ предсказывать, как особо мощные нейротоксины морских улиток прикрепляются к клеткам человека. Эта работа могла помочь создать противоядия. Однако правительство США выразило обеспокоенность после того, как китайские исследователи использовали её для разработки собственного инструмента создания новых токсинов. Китайские учёные заявили, что их цель — только разработка лекарств.

В апреле учёные вызвали новые опасения, создав первые вирусы, разработанные с помощью ИИ. Эти вирусы поражают только бактерии, а исследования могут привести к появлению новых лекарств. Но эксперты предупредили, что работа поднимает «срочные вопросы биобезопасности и биологической безопасности».

Что затрудняет разработку

Большинству неподготовленных групп недоступна значительная часть работ по созданию биологического оружия: они требуют специальных технических знаний и крайне опасны. Чат-бот может предоставить информацию, но одного списка инструкций недостаточно. Филиппа Лентцос отмечает, что серьёзными препятствиями остаются практические, неформализованные знания, доступ к биологическим материалам и оборудованию, проверка результатов экспериментами, масштабирование и доставка.

Соня Бен Уаграм-Гормли, заместитель директора программы биологической обороны Университета Джорджа Мейсона в Вирджинии, говорит, что неформализованные знания — практический опыт, который не записан в инструкциях и едва ли доступен ИИ, — играли важную роль в успешных государственных программах разработки биологического оружия в прошлом.

Профессор Цюрихского университета Мартин Пачеса также назвал ключевым фактором доступ к материалам. По его словам, любой физик с высшим образованием может набросать план более эффективной ядерной бомбы, но без доступа к урану это ничего не даст. Так же и с биологическим оружием: если у человека уже есть материалы и оборудование для его производства, ИИ вряд ли сильно изменит ситуацию.

Какие дополнительные меры нужны

Некоторые компании, разрабатывающие ИИ, принимают меры, чтобы предотвратить использование своих инструментов для создания биологического оружия. Однако большинство компаний не сообщают, делают ли они что-либо для этого, говорит Том Инглсби, директор Центра безопасности здоровья Университета Джонса Хопкинса. По его словам, ни в одной стране пока нет официальной государственной политики, направленной на предотвращение такого злоупотребления.

Инглсби выступает за независимую официальную оценку новых моделей ИИ до их выпуска: все выявленные риски следует устранить, прежде чем модели станут общедоступными. Он также считает, что доступ к данным высокого риска — например, сведениям о том, как патогены могут распространяться быстрее, — нужно ограничить.

Кроме того, компании, производящие генетический материал для исследователей, должны проверять заказы и убеждаться, что их не используют для создания новых особо опасных вирусов. Некоторые проверки уже проводятся, но в основном добровольно. Их можно обойти, если исследователи с помощью ИИ создадут новые вредоносные генетические последовательности, которые компании не проверяют.