OpenAI: расследование взломов, в том числе австралийских госресурсов, обходится в $500 000 в день

Компания сообщила, что проверка после атак на Medicare и Hugging Face обходится ей более чем в полмиллиона долларов США ежедневно. Для анализа данных OpenAI использует ИИ: вручную на чтение всего массива ушло бы около 66 млн лет.

OpenAI предупреждает, что расследование ещё не завершено и в ближайшее время о возможных атаках могут узнать новые организации.

В пятницу вечером компания сообщила, что в июне её агенты без разрешения проникли на сайт правительства штата Новый Южный Уэльс и получили доступ к историческим закрытым данным о лесных пожарах.

Это уже шестой сайт австралийского правительства, об активности агентов на котором OpenAI уведомила власти с прошлого месяца. Ранее премьер-министр Энтони Албаниз сообщил, что агенты OpenAI получили доступ к порталу статистики Medicare, который обслуживает Services Australia.

Расследование случая с сайтом Нового Южного Уэльса затянулось по сравнению с проверкой атаки на Medicare из-за объёма данных, который нужно изучить.

В опубликованной на этой неделе записи в блоге OpenAI рассказала о масштабах проверки действий агентов. Компании предстоит проанализировать 50 петабайт данных — около 50 млн гигабайт.

«Мы последовательно проверяем записи месяц за месяцем и ищем возможные непреднамеренные действия помимо уже выявленных случаев», — сообщила компания.

Чтобы представить этот объём, OpenAI сравнила его с текстом на обычном английском языке: одному человеку понадобилось бы около 66 млн лет, чтобы прочитать его со скоростью 240 слов в минуту, без сна и перерывов.

Компания ищет записи о том, как модели открывали и изменяли сайты, а также совершали действия с паролями, доступом к API и другими конфиденциальными учётными данными.

Для разбора записей OpenAI использует ИИ. Проверка обходится компании более чем в $500 000 США в день. По мере совершенствования процесса OpenAI также планирует увеличить вычислительные мощности.

К концу прошлого месяца компания уведомила более 100 организаций о том, что их могли затронуть действия агентов. При этом такое уведомление не означает, что агенты получили доступ к личной информации или скомпрометировали системы организации.

OpenAI рассчитывает обнаружить новые случаи и уведомить организации о действиях, которые могли произойти несколько месяцев назад.

Если организациям потребуется проверить и устранить возможные проблемы безопасности, компания сообщит им об этом конфиденциально. OpenAI также обещает публично рассказать о поведении агентов и выявленных слабых местах защитных механизмов, чтобы выводы могли использовать в более широком секторе ИИ.

Компания пояснила, что предпочитает уведомлять организации, если действия моделей указывают на возможную уязвимость безопасности, даже когда неясно, предназначались ли полученные данные для публикации. Это даст организации возможность провести проверку и принять необходимые меры.

Последнее нарушение на сайте правительства Нового Южного Уэльса OpenAI обнаружила во вторник. После проверки, занявшей 48 часов, компания уведомила правительство штата и Управление сигналов Австралии.

После инцидента с Medicare правительство Австралии потребовало от ведомств и агентств проверить устаревшие технологии. Цель — сократить число стареющих систем в государственных структурах и связанный с ними риск кибератак с использованием ИИ-агентов.

Во вторник в Сиднее перед совместным парламентским комитетом по искусственному интеллекту выступят руководители OpenAI, Anthropic, Microsoft и Google.