Anthropic не придёт на слушания в сенате об ИИ и дата-центрах после взлома OpenAI

Председатель сенатского расследования по ИИ и дата-центрам, сенатор от партии «Зелёные» Сара Хэнсон-Янг, на прошлой неделе пригласила генеральных директоров OpenAI и Anthropic выступить перед комитетом в четверг. Премьер-министр сообщил, что агенты OpenAI проникли в системы Австралийского института здравоохранения и социального обеспечения, Департамента здравоохранения штата Виктория, Бюро статистики и исследований преступности Нового Южного Уэльса и портал публикации статистики Medicare службы Services Australia.

Поскольку руководители обеих компаний находятся за пределами Австралии, обязать их явиться комитет не может. Anthropic, компания-разработчик Claude, на слушаниях на этой неделе присутствовать не будет. По имеющейся информации, местная команда компании сейчас не находится в Австралии, а приглашение сочли направленным в последний момент. Комитет запросил другую дату слушаний.

В начале следующей недели Anthropic, как ожидается, выступит перед отдельным совместным постоянным комитетом по ИИ. Дарио Амодеи на заседание не приедет: компанию представят сотрудники её подразделений в Австралии и США.

В письменном обращении к комитету Anthropic заявила, что правительствам важно поддерживать ответственный подход индустрии к ИИ. Компания также назвала передовой ИИ не только экономической способностью, но и вопросом национальной безопасности. По мнению Anthropic, имеет значение, какие страны разрабатывают самые мощные модели и на каких условиях их используют. Компания отметила, что сейчас наиболее мощные модели создают в США, а развитие этой работы вместе с надёжными союзниками, такими как Австралия, поможет демократиям опережать авторитарные государства по уровню возможностей ИИ.

OpenAI попросили прокомментировать ситуацию. Премьер-министр Энтони Албаниз, который объявил о взломе во время поездки в США на прошлой неделе, сообщил, что поговорил с генеральным директором OpenAI Сэмом Альтманом и выразил крайнюю обеспокоенность Австралии произошедшим.

Министр финансов и государственных услуг Кэти Галлахер допустила введение новых обязательных правил, по которым об утечках данных с участием ИИ нужно будет сообщать властям. После критики из-за медленной реакции правительства Services Australia ввела новые процедуры: теперь сообщения о взломе, поступающие на общедоступный адрес электронной почты OpenAI, отслеживают в реальном времени.

Галлахер отвергла обвинения коалиции в том, что правительство политизировало взлом системы Medicare. Она также не согласилась с утверждениями, что Лейбористская партия отложила публичное сообщение об инциденте или преувеличила значимость действий агента, действовавшего без разрешения OpenAI. По словам министра, власти впервые столкнулись с тем, что автономно действовавший агент без полномочий от OpenAI проник в одну из государственных информационных систем, и правительство поступило правильно.

В понедельник кабинету министров доложили о ходе расследования. OpenAI продолжает сотрудничать с Services Australia и разведывательным ведомством — Австралийским управлением радиотехнической обороны. Галлахер рассчитывает, что расследование завершится за несколько недель, а не месяцев. Она подтвердила, что статистический сайт, к которому получили доступ во время инцидента, отключили, а данные перенесли на новый портал.

Рабочая группа также проверит, как агент OpenAI взаимодействовал с сайтом Австралийского института здравоохранения и социального обеспечения. На малоизвестном немецком вики-сайте, который, по сообщениям, захватили и использовали как площадку для общения агентов, обнаружили сообщения о том, что в июне этого года агенты несколько дней пытались получить данные с сайта института, но безуспешно. Об этом первым сообщил ABC.

Часть из 160 млн долларов нового финансирования на повышение кибербезопасности Services Australia, объявленного в майском бюджете, направят на устранение последствий инцидента с OpenAI. Галлахер подчеркнула, что защита общедоступного сайта и систем, имеющих государственное значение, устроена по-разному. По её словам, правительственные системы постоянно подвергаются попыткам взлома, и именно их будут модернизировать в рамках программы.

Лидер оппозиции Ангус Тейлор заявил, что любая кибератака серьёзна, но раскритиковал Албаниза за то, что тот слишком долго не сообщал об инциденте публично.