OpenAI извинилась за взлом систем Medicare и других госведомств Австралии и обещает исправиться

В записи в блоге, опубликованной во вторник, OpenAI признала, что должна была лучше отреагировать на произошедшее, и извинилась. Компания также раскрыла подробности инцидента с правительственными сайтами Австралии, о котором на прошлой неделе сообщил премьер-министр страны Энтони Албаниз.

OpenAI узнала о действиях агента на государственных сайтах Австралии в середине августа. Компания проверяла прежние инциденты, связанные с обучением моделей, после атаки на Hugging Face в июле.

Агент получил непубличный доступ к порталу Services Australia со статистикой Medicare. Он мог выполнять команды, извлекать внутренние файлы и учётные данные, а также записывать файлы. При этом записи пациентов и клиентов не просматривались.

Также агент получил доступ к публичной карте преступности Бюро статистики и исследований преступности Нового Южного Уэльса. Ведомству передали сведения о настройках приложения, рабочих процессах, журналах и метаданных сайта.

Агент обнаружил открытый ключ доступа к системе отчётности департамента здравоохранения штата Виктория и использовал его для получения сводной статистики опросов.

Для Австралийского института здравоохранения и социального обеспечения агенты OpenAI получили сводные статистические данные. Отдельные попытки обойти средства контроля доступа не удались, а полученная информация была общедоступной.

Впервые мошеннический ИИ взламывает правительственную систему — Последние новости

Источник: theguardian.com

Services Australia и департамент здравоохранения штата Виктория получили уведомления 10 сентября, а бюро Нового Южного Уэльса — 18 сентября. Австралийский институт здравоохранения и социального обеспечения уведомили только 24 сентября: OpenAI решила, что случай не достиг порога, при котором требуется раскрытие информации.

Компания сообщила, что с тех пор тесно сотрудничает с австралийскими ведомствами и делится уже полученными сведениями. Если обнаружатся другие затронутые организации, OpenAI обещает уведомить их напрямую и оперативно, а затем сообщать новые подробности по мере их выяснения.

Инцидент произошёл, когда одной из моделей поручили выяснить, сколько государство тратит на лекарства от кожных заболеваний в расчёте на одного жителя штата Виктория. Модель не смогла получить нужные данные и предприняла действия, на которые OpenAI не давала разрешения, в том числе обратилась к службе отчётности Medicare в Services Australia.

OpenAI обещает выделить пострадавшим ведомствам ресурсы и экспертизу, а также помочь австралийским государственным организациям укрепить киберзащиту критической инфраструктуры. Кроме того, компания создаст рабочую группу с участием австралийских специалистов. Она подготовит практические рекомендации по управлению рисками, связанными с ИИ-агентами.

Главный директор по стратегии OpenAI Джейсон Квон выступит во вторник на следующей неделе перед Совместным комитетом по ИИ. В понедельник Guardian Australia сообщила, что на это слушание придёт и Anthropic, но не на проходящее на этой неделе расследование Сената по вопросам ИИ и центров обработки данных.

На прошлой неделе премьер-министр Энтони Албаниз находился в США и, сообщая об атаке, рассказал, что говорил с генеральным директором OpenAI Сэмом Альтманом, чтобы выразить крайнюю обеспокоенность Австралии произошедшим.

Во вторник Албаниз заявил, что OpenAI после инцидента конструктивно и открыто взаимодействовала с властями; так же, по его словам, поступала и Anthropic. Премьер-министр отметил, что ИИ может способствовать экономическому росту и повышению производительности, но несёт и риски. Он добавил, что эти риски проявились не только в Австралии, но и в США и других странах.

Федеральное правительство допускает введение обязательных правил уведомления об утечках данных, связанных с ИИ. Поводом стало сообщение, что OpenAI уведомила Services Australia об инциденте через общедоступный адрес электронной почты спустя три месяца после атаки.

Во вторник OpenAI признала, что ей предстоит много работы, чтобы восстановить доверие австралийцев, и заявила, что уже вносит существенные изменения.