OpenAI выпустила новую модель для кибербезопасности. Этого достаточно?

Уязвимость нашлась за два часа

У Джастича есть любительский интерес к кибербезопасности; раньше он уже находил уязвимость в том же коде. Как он рассказал TechCrunch, для поиска новой ошибки Джастич направил ChatGPT на этот код и попросил найти уязвимости не менее серьёзные, чем та, которую он обнаружил раньше и которую исправили несколько лет назад. Через два часа модель выдала результат. Джастич отметил, что ошибка была настолько запутанной, что человеку было бы трудно её заметить, но она работала.

Он сообщил об уязвимости проекту Debian, который поддерживает соответствующее программное обеспечение. Проект выпустил исправление. Известных случаев эксплуатации ошибки нет. Однако простота, с которой Джастич её обнаружил, указывает на то, что подобные возможности моделей могут помочь находить уязвимости даже начинающим хакерам.

В обсуждении своей находки в соцсети Джастич написал, что можно ожидать обнаружения и эксплуатации крайне необычных ошибок в ближайшие месяцы. Он также указал на потенциал проверки кода или двоичных файлов, которые ещё никто не аудитил, с помощью мощной модели. По его оценке, более длительная работа и доступ к менее ограниченным моделям могли бы дать ещё больше результатов.

OpenAI расширяет Daybreak

OpenAI объявила о ChatGPT Cyber — модели для кибербезопасности. Она будет доступна пользователям самого высокого уровня в программе Daybreak Red, которая предоставляет исследователям наступательной кибербезопасности инструменты для поиска и разработки способов использования уязвимостей.

Днём ранее компания сообщила, что с помощью той же модели проверила ядро Linux и подготовила исправления для найденных проблем. Модель выявила 948 потенциальных уязвимостей в ядре, а также 81 новую уязвимость в браузере Firefox. OpenAI заявила, что хочет существенно расширить Daybreak и привлечь организации любого размера, независимых исследователей и разработчиков открытого программного обеспечения.

Компания считает, что у специалистов, защищающих цифровую инфраструктуру, есть ограниченное время, чтобы принять меры до того, как модели станут ещё лучше в поиске уязвимостей и доступ к ним упростится. Защитникам, однако, может быть трудно справиться с растущим объёмом работы при ограниченных ресурсах. Джастич рассказал, что лично потратил около $5 000 на подписки и токены, чтобы найти несколько уязвимостей.

Помимо доступа к моделям через Daybreak, OpenAI объявила о программе поддержки специалистов по кибербезопасности на $1 млрд. Она предназначена для участников, работающих над защитой критической инфраструктуры, в том числе электросетей и систем водоснабжения.

Доступ и ресурсы защитников

Джастич считает, что OpenAI недавно ограничила возможности Daybreak Blue, из-за чего программа стала менее полезной для поиска уязвимостей. Ограничения могут затруднить работу потенциальным злоумышленникам. Для участия в программе, по словам Джастича, ему было достаточно загрузить фотографию водительского удостоверения.

Но у ограничений есть и обратная сторона: специалисты по кибербезопасности опасаются, что им будет сложнее использовать передовые технологии, в то время как злоумышленники смогут запускать открытые модели с удалёнными ограничениями безопасности. По данным OpenAI, в Daybreak участвуют лишь «тысячи» специалистов по кибербезопасности — потенциальных хакеров, как отмечает источник, гораздо больше.

Неясно, достаточно ли ресурсов передовые лаборатории направляют на эту проблему. Эрик Уоллес, исследователь из технического отдела OpenAI, сообщил, что компания выделяет значительную часть вычислительных ресурсов передовых моделей на поиск уязвимостей в открытом коде и подготовку исправлений без оплаты.

При этом поиск ошибок в ядре Linux обошёлся в $1,2 млн. Для сравнения, OpenAI потратила около $6 млн в токенах на поиск возможного решения известной задачи гидродинамики. Если время для исправления уязвимостей цифровой инфраструктуры действительно ограничено, одной новой модели может быть недостаточно.

По оценке Dataist, программы доступа к моделям и финансирование защитников отвечают на часть проблемы, но их масштаб пока трудно сопоставить с числом потенциальных злоумышленников. Затраты на проверку ядра Linux также показывают, что поиск и исправление уязвимостей требуют значительных ресурсов.