Австралия введёт обязательную отчётность после взлома OpenAI, чтобы не дать ИИ выйти из-под контроля

Какие изменения рассматривает правительство

Во вторник Албаниз обнародовал рекомендации ускоренной проверки июньского инцидента, но не её выводы и не сам отчёт.

Одна из рекомендаций предлагает Министерству генерального прокурора, федеральной полиции Австралии и Министерству внутренних дел рассмотреть изменения в законе. Среди предложений — штрафы за грубое несоблюдение требований регулирования и уголовная ответственность за непредотвращение вреда. Под неё могло бы подпасть создание модели ИИ, которая причинила вред, если разработчик не предпринял разумных мер, чтобы его предотвратить.

Проверка также рекомендовала правительству ввести обязательную отчётность о безопасности ИИ в установленные сроки. Она должна охватывать, в частности, несоответствующее целям поведение моделей и инциденты с автономными киберагентами.

Министр внутренних дел Тони Берк заявил, что законы и государственные системы должны успевать за развитием технологий. По его словам, технологии также нужно использовать, чтобы находить уязвимости раньше других. Обязательные сообщения об инцидентах, когда ИИ выходит из-под контроля, позволят властям получать информацию сразу после их возникновения.

Говоря об обновлении уголовного законодательства, Берк подчеркнул: компаниям не должно быть позволено оправдываться тем, что они не знали о возможностях созданной ими системы. Закон, по его словам, должен учитывать, как действует новая технология.

Что известно о взломе

Албаниз назвал последствия инцидента OpenAI для конфиденциальности персональных данных незначительными: по имеющейся информации, личные данные людей не были получены. При этом премьер-министр отметил, что происшествие остаётся серьёзным и подобные инциденты в других областях могут иметь более тяжёлые последствия.

В июне ИИ-агент OpenAI получил доступ к данным Services Australia и ещё трём системам. Компания узнала об инциденте в августе, но сообщила о нём правительству Австралии лишь в середине сентября. В прошлом месяце Guardian Australia сообщила, что OpenAI использовала ИИ, чтобы подготовить письмо с уведомлением австралийских властей.

Албаниз не ответил прямо, нарушил бы инцидент OpenAI предлагаемые нормы, если бы они уже действовали. Он сообщил, что правительство начало работу над всеми 18 рекомендациями проверки и создаст нового регулятора по безопасности ИИ.

Какие обязанности могут установить для компаний

Правительство Австралии рассмотрит шесть основных требований к компаниям, работающим с ИИ:

По оценке Dataist, предложенный подход охватывает и предотвращение вреда, и действия компаний после инцидента — прежде всего сроки уведомления и независимую оценку моделей. Но пока речь идёт о рекомендациях и возможных изменениях закона: премьер-министр не уточнил, как новые нормы применят к июньскому случаю OpenAI.