Защитные ограничения ИИ, призванные останавливать хакеров, мешают специалистам по кибербезопасности — Orion-1 должна закрыть этот пробел

Универсальные модели ИИ становятся проблемой для команд безопасности: их способности могут использовать и злоумышленники. Artemis Security хочет решить эту проблему с помощью модели, созданной специально для задач защиты.

Источник: the-decoder.com

Orion-1 обрабатывает журналы событий из служб аутентификации, облачной инфраструктуры, корпоративных устройств, приложений SaaS и сетевого оборудования. Модель связывает отдельные сигналы — например, вход в корпоративную учётную запись, новые права в облаке и недавно созданное правило для почтового ящика — и относит их к действиям одного злоумышленника. После этого Orion-1 оценивает уверенность в выводе, выносит вердикт и рекомендует меры защиты или запускает их.

По словам Artemis, универсальные модели теряют нить, когда получают миллиарды событий, либо принимают безобидную, но необычную активность за атаку. Orion-1 прошла файн-тюнинг на задачах из практики собственных команд безопасности Artemis. Среди них — поиск подозрительных закономерностей в журналах событий, выявление известных техник атак, создание новых правил обнаружения и сдерживание атак в реальном времени. Компания утверждает, что не использовала при обучении данные клиентов.

Artemis называет Orion-1 «фундаментальной моделью передового уровня», но в публикации компании описан только файн-тюнинг. Неясно, создала ли Artemis модель сама или доработала модель другого поставщика.

Как Artemis проверяла решения модели

Для сравнения Artemis разработала бенчмарк Decision-Grade Readiness (DGR). Большинство существующих тестов по безопасности проверяют знание техник атак или предлагают моделям решить задачи по взлому. В DGR каждой модели дают одинаковое исходное оповещение, данные об окружении и инструменты, доступные команде безопасности, а затем просят определить, происходит ли атака.

Бенчмарк включает тысячи задач с известными ответами. В некоторых атаки нет вовсе, а часть содержит безопасные данные, намеренно похожие на вредоносные. Модели оценивают и по вердикту, и по приведённым доказательствам.

Artemis сообщила результаты по пяти задачам. Помимо Claude Opus 5.5 и GPT-6 Sol, компания проверила Grok 4.7 и Kimi K3. Самый большой разрыв оказался в реконструкции атаки: Orion-1 набрала 80,8 балла, а следующая за ней модель — 58,3.

Orion-1 набирает 80,8 балла при реконструкции атак, тогда как лучшая модель для сравнения, GPT-6 Sol, набирает 58,3

Источник: the-decoder.com

Orion-1 доступна избранным клиентам платформы Artemis в режиме закрытого предварительного доступа. Клиенты задают ограничения для каждого типа действий — насколько самостоятельно модель может принимать решения. По умолчанию для действий с серьёзными последствиями требуется одобрение человека.

Artemis вышла из скрытого режима в апреле и сообщила, что привлекла 70 миллионов долларов в посевном раунде и раунде серии A. К тому моменту компания существовала около шести месяцев.

Защитные ограничения мешают специалистам по безопасности

Специалистам по кибербезопасности становится сложнее работать с универсальными передовыми моделями: их разработчики ограничивают возможности, связанные с кибератаками. OpenAI считает Astra первой моделью, способной достичь наивысшего уровня киберриска — когда модель может самостоятельно разрабатывать и проводить атаки.

Claude Opus 5.5 перенаправляет большинство задач по кибербезопасности к более старой Opus 4.8. В июле Hugging Face попыталась с помощью коммерческих передовых моделей проанализировать полностью автономную ИИ-атаку на собственную инфраструктуру, но защитные ограничения полностью заблокировали анализ данных об атаке. В итоге команда перешла на открытую модель GLM 5.2, запущенную на собственных серверах.

Для защиты разработчики выпускают специализированные модели с ограниченным доступом. OpenAI предоставляет менее ограниченную GPT-5.5-Cyber только проверенным специалистам по безопасности. Anthropic использует похожий подход со своей сильнейшей моделью: Claude Mythos 5 работает через сканер Claude Security и продукты партнёров по безопасности.

В сравнении Artemis нет ни Mythos 5, ни сильнейшей модели OpenAI — GPT-6 Astra. Кроме того, результаты Claude Opus 5.5 могут в значительной степени отражать ответы более старой Opus 4.8.