Anthropic представила программу Life Sciences Verification Program

Проверка и уровни доступа

Чтобы получить грант доступа, заявитель проходит проверку исследовательской квалификации, стандартов безопасности и этического надзора за исследованиями. После этого команда может подать заявку на один из двух типов грантов LSVP:

Гранты действуют во всех продуктах Anthropic: Claude Science, Claude.ai, Claude Code и API.

Гранта Standard Use должно хватить для большинства биологических исследований и рабочих процессов разработки. Его можно распространить на всю команду для разных ежедневных задач, а продлевать нужно раз в год. Он открывает доступ к Mythos, Opus и Sonnet с обновлёнными классификаторами, которые мягче относятся к научным запросам, чем общедоступные модели.

Сейчас Standard Use распространяется на Mythos 5.1, Opus 5 и Sonnet 5, а в дальнейшем будет действовать и для новых моделей после их выпуска. Грант рассчитан на широкий круг задач:

Ожидается, что Standard Use закроет большую часть потребностей. Для работ с более высоким риском неправильного использования требуется дополнительная проверка.

High-risk Use — дополнительный грант для команд, чьи задачи блокируются на уровне Standard Use. Он снимает все ограничения, блокирующие запросы по наукам о жизни. Такой грант выдают не всей команде, а под один исследовательский проект, и продлевать его нужно каждые шесть месяцев.

Обычно один исследователь, работающий с технологиями двойного назначения, получает один грант Standard Use для повседневных задач и один или несколько грантов High-risk Use для конкретных проектов. В качестве примера Anthropic приводит изучение того, как определённое семейство вирусных векторов распознаётся иммунными путями человека.

Гранты High-risk Use для Claude Opus 5 и Claude Sonnet 5 доступны уже сейчас. Anthropic сотрудничает с правительством США, чтобы расширить выдачу таких грантов для Claude Mythos, но на момент запуска доступ к ним остаётся ограничен небольшим числом организаций, прошедших дополнительную проверку.

Другие ограничения, включая классификаторы кибербезопасности, в рамках грантов LSVP сохраняются.

Доступ под общей ответственностью

Как показал недавний отчёт об угрозах Anthropic, на платформе всё чаще предпринимаются сложные попытки злоупотребления, в том числе связанные с возможной разработкой биологического оружия. В биологии зачастую невозможно отличить добросовестную работу — например, исследование вирусного патогена для создания вакцины — от попытки причинить вред, такой как намеренное повышение заразности вируса.

Наиболее опасными Anthropic считает сценарии, в которых законный доступ перехватывает или перенаправляет злоумышленник. Внутренние угрозы и действия сотрудников-изменников уже становились существенными факторами серьёзных происшествий и инцидентов в области биобезопасности. При разработке LSVP компания сосредоточилась на трёх сценариях:

Вместе с руководителями корпоративных подразделений информационной безопасности Anthropic построила защиту LSVP на принципе общей ответственности. Использование моделей сопоставляется с заявленной целью доступа. Поскольку организации проходят проверку на компетентность в науках о жизни и наличие надзора, им позволяют самостоятельно описывать безопасные сценарии для своих команд и проектов.

Доступ каждой организации связан с вариантами использования, указанными в заявке на грант. Трафик LSVP непрерывно проверяется: система ищет действия и поведенческие шаблоны, выходящие за пределы заявленной безопасной области. Если обнаруживается несанкционированная активность, Anthropic может сообщить об этом администраторам организации, чтобы те приняли меры в заранее согласованные сроки расследования и устранения инцидента.

Описание сценариев использования должно быть достаточно общим — примерно как формулировка в объявлении о вакансии. В него нельзя включать конфиденциальные сведения или интеллектуальную собственность.

Как работает мониторинг LSVP

Серьёзное злоупотребление часто распределено между множеством запросов и сессий. Из-за этого отдельные действия могут выглядеть несвязанными и ускользать от обнаружения.

В LSVP Anthropic меняет подход: вместо блокировки в реальном времени, когда потенциально опасный запрос отклоняется сразу, используется офлайн-мониторинг. Он позволяет анализировать поведенческие шаблоны и лучше выявлять злоупотребления, распределённые между разными запросами.

Такой переход уменьшает число помех для добросовестной работы, но требует сохранять данные, связанные с отмеченной активностью, для последующей проверки. Поэтому для трафика LSVP вводится обязательное хранение данных в течение 30 дней.

Эти данные строго изолированы. Их нельзя использовать для обучения моделей, а сотрудники исследовательских команд Anthropic, занимающихся науками о жизни, не имеют к ним доступа. Для подходящих организаций компания также изучает возможность интеграции LSVP с функциями систем Enterprise Frontier Safeguards (EFS).

Что говорят исследователи

Xaira Therapeutics считает, что компания делает биологию более вычислимой: создаёт биологические данные в беспрецедентном масштабе и строит базовые модели клеточной, белковой и медицинской биологии. По мнению Xaira, передовые модели Anthropic помогут использовать этот подход в разработке лекарств, а сочетание доверенного доступа и интеллектуальных возможностей позволит реализовать потенциал ИИ в биологии.

Edison Scientific сообщает, что её задача — ускорять научные исследования, открытие и разработку новых лекарств. Компания рассчитывает применять наиболее интеллектуальные модели Anthropic для этих задач и продолжить сотрудничество с Anthropic, чтобы бороться с заболеваниями и улучшать жизнь пациентов.

Manifold Bio разрабатывает масштабируемый параллельный интерфейс к живым системам, который должен позволить ИИ создавать лекарства. Компания планирует безопасно использовать передовые интеллектуальные возможности в своей системе и приветствует подход Anthropic, объединяющий доступ с ответственностью.

Заявки и доступность

Организации, заинтересованные в участии в LSVP, могут подать заявку. Anthropic ожидает подключить сотни организаций уже в первую неделю, а в следующие недели расширить программу так, чтобы поддержать большую часть сообщества наук о жизни.

Сейчас LSVP доступна:

Индивидуальные тарифы пока не поддерживаются, но Anthropic работает над расширением доступа для таких пользователей. На сторонних платформах программа также пока недоступна.

В бета-версии LSVP не поддерживаются организации с включённым BAA. Поэтому клиентам, работающим с данными PHI, следует использовать отдельные организации без BAA и без HIPAA.

В API и Claude Science пользователи могут переключаться между грантами напрямую. В Claude.ai и Claude Code изначально применяется только заранее выбранный грант по умолчанию — исключение составляет Claude Code при авторизации через API.

Anthropic считает, что для большинства пользователей этого будет достаточно: им потребуется только грант Standard Use. В дальнейшем компания планирует улучшить поддержку и переносимость функций LSVP.