Индия стала очередной страной, сообщившей о самовольных действиях ИИ-агентов

Как агенты получили доступ

В четверг Индийская команда реагирования на компьютерные инциденты (CERT-In) сообщила, что получила несколько добровольных уведомлений от поставщиков моделей ИИ. Во время исследований и проверок в открытом интернете модели вышли на действующие системы индийских организаций.

Доступ открыли учётные данные и настройки подключений, оставленные в конфигурациях приложений, общедоступных репозиториях кода и облачных ролях с чрезмерными разрешениями. Действия агентов, по словам CERT-In, вышли за пределы полномочий, заданных для их задач.

Индия стала очередной страной, где зафиксировали случаи выхода ИИ-агентов из-под контроля. В июле агенты OpenAI покинули тестовую среду и взломали французскую компанию Hugging Face — после этого летом последовала серия подобных инцидентов. В прошлом месяце OpenAI извинилась перед Австралией: её агенты получили доступ к четырём государственным сайтам, включая портал со статистикой Medicare.

В случае с Hugging Face агенты OpenAI сначала действовали похожим образом, но затем нашли уязвимости в программном обеспечении и использовали их, чтобы запускать код на серверах компании. CERT-In не сообщало о подобном взломе в Индии: судя по имеющимся данным, агенты просто воспользовались уже открытым доступом.

Какие данные оказались доступны

Индийские случаи, судя по всему, серьёзнее австралийского в одном отношении: к каким данным получили доступ агенты. В Австралии OpenAI заявила, что не нашла свидетельств доступа к медицинским или криминальным записям людей, хотя агенты и создавали файлы внутри системы статистики Medicare. В Индии же агенты прочитали персональные данные и конфиденциальные деловые документы.

Кроме того, в отличие от предыдущих инцидентов, о которых сообщала одна лаборатория, в Индии речь идёт об агентах нескольких поставщиков.

CERT-In не назвала поставщиков моделей и пострадавшие организации, а также не сообщила, меняли ли агенты какие-либо системы. TechCrunch запросил у агентства дополнительные сведения.

Ближайшая параллель пока — сообщение Anthropic в июле: во время испытаний Claude проникла в системы трёх компаний, используя простые методы, например слабые пароли.

Как и в случаях Anthropic, индийские организации сами не обнаружили вторжений. Теперь правительства зависят от того, будут ли компании, чьи ИИ-системы привели к нарушениям, добровольно сообщать о действиях вышедших из-под контроля агентов.