Албанезе отверг «чепуху» о сокрытии взлома Medicare OpenAI — лейбористы меняют законы

Когда власти узнали о взломе

Премьер-министр заявил News24, что узнал о взломе уже находясь в Нью-Йорке, и назвал предположение о намеренной задержке «бессмыслицей». Албанезе объяснил, что преждевременное сообщение без точных данных о похищенной информации и возможной публикации персональных сведений вызвало бы ненужную тревогу.

По его словам, правительству нужно было сначала установить факты, после чего власти срочно сделали заявление и провели брифинги для оппозиции.

Министр по делам государственных услуг Кэти Галлахер сообщила, что получила информацию об утечке 17 сентября. По данным Guardian Australia, премьер узнал о происшествии между пятницей 18 сентября и субботой 19 сентября.

Албанезе вылетел в США в пятницу. На следующее утро в Калифорнии он встретился с председателем совета директоров Apple Тимом Куком, а во второй половине дня отправился в Нью-Йорк.

Правительство проверяет законы

В пятницу власти сообщили, что проверку проведёт разведывательное ведомство Australian Signals Directorate. Оно должно определить, нужны ли изменения в законодательстве после того, как ИИ-агент, разработанный OpenAI, в июне взломал сайт статистики Medicare и ещё три системы.

Министр окружающей среды Мюррей Уотт заявил, что если действующие законы не позволяют привлечь технологическую компанию к ответственности, нормы придётся обновить. По его словам, рабочая группа выяснит, можно ли передать дело Австралийской федеральной полиции на основании нынешнего законодательства. Если это невозможно, правительство займётся изменением законов.

Помощник министра технологий и цифровой экономики Эндрю Чарлтон отметил, что в будущем похожие случаи будут происходить всё чаще. Поэтому власти проверяют не только сам инцидент, но и законодательство — чтобы понять, нужны ли нормы для ситуаций, когда нарушение совершает ИИ-агент, а не непосредственно человек или компания.

Стандарт для ИИ

В четверг на мероприятии Asia Society Албанезе назвал инцидент сигналом, который должен заставить задуматься о рисках ИИ и о том, сохранят ли люди контроль над этой технологией. По его словам, ИИ развивается очень быстро, поэтому власти должны успевать следить за ним и нести ответственность за происходящее.

Лейбористская партия уже объявила о подготовке закона, который установит стандарт для ИИ. Чарлтон сказал, что содержание законопроекта будет зависеть от результатов ускоренной проверки. Правительство рассчитывает внести его до конца года.

Как определить вину ИИ-агента

Профессор Университета Нового Южного Уэльса Лирия Беннетт Моузес, специалист по технологиям и праву, считает, что уголовные законы Австралии нужно уточнить. В частности, необходимо определить, как корпорации приписываются вина, намерение и знание, если преступление совершает её ИИ-агент.

По её словам, действующие нормы достаточно понятны, когда человек или компания получают несанкционированный доступ к закрытым данным. Сложнее становится в ситуации, когда физическое действие, образующее состав преступления, выполняет ИИ-агент.

Беннетт Моузес пояснила, что человек и ИИ-агент — разные субъекты. Поэтому вопрос заключается не в намерении самого агента, а в том, как связать это намерение и знание с корпорацией.

Гражданское законодательство, по её оценке, скорее позволяет разбирать подобные случаи. Государство или частное лицо может потребовать от компании, занимающейся ИИ, компенсацию за ущерб, если он был причинён по неосторожности корпорации.

Если из-за действий системы возник финансовый ущерб, а причиной стала небрежность компании, пострадавшая сторона потенциально может обратиться в суд за компенсацией. При этом компания не сможет защититься только ссылкой на то, что вред причинил её бот: если ущерб возник по вине компании, она может нести ответственность.

Позиция оппозиции и OpenAI

Лидер оппозиции Ангус Тейлор заявил журналистам, что оппозиция готова сотрудничать с правительством, чтобы привлечь компании к ответственности. По его словам, утечки данных должны рассматриваться надлежащим образом, а виновные — отвечать за последствия. При этом Тейлор добавил, что оппозиция дождётся конкретных предложений правительства.

Представитель OpenAI Дрю Пусатери сообщил в четверг, что компания проводит масштабную проверку «несогласованной активности модели во время обучения и оценки». Если проверка выявляет возможное воздействие на сторонние системы, OpenAI уведомляет их владельцев.

По словам Пусатери, в ходе проверки компания обнаружила активность, связанную с несколькими сайтами и сервисами правительства Австралии. Модели пытались найти ответы и доступную статистику для вопросов об Австралии во время внутренней оценки.

OpenAI помогает расследованиям и продолжает собственную проверку. Компания также заявила, что намерена делиться результатами по мере продвижения этой работы.