Альбанезе вернулся в Сидней в субботу и потребовал от OpenAI объяснить несколько случаев несанкционированного доступа с участием её агентов, включая взлом австралийских правительственных сайтов.
Премьер-министр заявил, что признание OpenAI о вмешательстве агентов и в работу сайтов правительства США указывает на «десятки» случаев, когда ИИ-агенты получали доступ к информации без разрешения.
По словам Альбанезе, произошедшее подтверждает необходимость подходящих мер на национальном и международном уровне, чтобы люди сохраняли контроль.
В среду по американскому времени Альбанезе поговорил с Альтманом. О взломе он рассказал позднее; глава OpenAI предложил продолжить обсуждение вопросов безопасности.
Сенатор от «Зелёных» Сара Хэнсон-Янг, возглавляющая расследование, заявила, что Альтман должен публично ответить на вопросы о взломе австралийских сайтов. По её словам, обсуждение нельзя целиком проводить за закрытыми дверями: общественность вправе знать, что произошло.
Выступление руководителей на слушаниях может поставить компании и правительство в неловкое положение после нескольких месяцев закрытых переговоров. Речь шла о том, чтобы разрешить обучение ИИ на миллионах текстов со всего мира в Австралии.
Ранее на этой неделе Альбанезе прямо не ответил, изменил ли инцидент позицию правительства по поводу сотрудничества с OpenAI.
Министр окружающей среды Мюррей Уотт в субботу назвал поведение OpenAI совершенно неприемлемым. Он сказал, что компании предстоит поработать, чтобы австралийцы могли доверять её технологиям.
По словам Уотта, если OpenAI и другие ИИ-компании хотят завоевать доверие австралийцев, им нужно действовать прозрачнее и быстрее предоставлять информацию.
«Зелёные» выступают за международное регулирование, которое замедлит развитие ИИ, и мораторий на строительство дата-центров в Австралии. Представителю партии по вопросам ИИ Дэвиду Шубриджу не дали места в комитете под руководством представителей правительства. «Зелёные» проводят собственное расследование: заслушивают общественные группы, выступающие против строительства дата-центров, и задают вопросы руководителям проектов.
Альтман и Амодей всё чаще публично говорят об опасностях быстрого развития ИИ. Хэнсон-Янг заявила, что предупреждения руководителей расходятся с призывами их компаний срочно изменить правила, чтобы упростить обучение ИИ. По её словам, если руководители действительно верят своим предостережениям, им следует прийти на слушания и открыто обсудить, каким должно быть действенное и долгосрочное регулирование отрасли.
Хэнсон-Янг также сказала, что австралийцы вправе знать, что крупные ИИ-компании делают с их данными, сколько воды и электричества потребляют их вычисления и как это отражается на местных сообществах и культуре.
Впервые: ИИ-агент взламывает правительственную систему — последние новости
Источник: theguardian.com
Слушания возобновятся в Канберре 1 октября. Приглашение выступить добровольное, однако расследование вправе обязать руководителей компаний явиться.
OpenAI и Anthropic попросили прокомментировать ситуацию.
Читайте также
Споры об ИИ уже влияют на выборы 2028 года: чего хотят кандидаты от демократов
Нарушенные обещания и отобранные земли: в крошечной индийской деревне строят ИИ-дата-центр гигантского масштаба
OpenAI пыталась скрыть, что ChatGPT подробно объяснял школьному стрелку, как добиться максимального числа жертв. Переписки ужасают.
Оксфорд разрешил OpenAI обучать ИИ-модели на материалах Бодлианской библиотеки
Muse от Meta — только для взрослых. Почему он похож на детскую игрушку?
SoL-Pi от Nvidia почти вдвое сокращает расход токенов у кодинг-агентов, оптимизируя управляющий слой
GPT-6 Astra от OpenAI теперь точно укажет, где вы ошиблись при сборке мебели IKEA
Провоста Дартмута поймали на использовании ИИ для статей в газетах и научных журналах
Одного письма на общедоступный адрес недостаточно, чтобы защитить австралийцев от потенциальной катастрофы из-за ИИ
OpenAI приостанавливает работу с самыми мощными моделями после того, как агенты обошли ограничения и утекли данные
OpenAI: агенты слили 53 изображения пользователей ChatGPT — новый случай самовольных действий ИИ
Писателя обвинили в использовании ИИ при написании книги и сняли с длинного списка французской премии
Перед IPO в США британская ИИ-облачная компания Nscale привлекла $3,36 млрд через конвертируемые облигации
Взлом OpenAI правительственной системы Австралии обнажил тревогу в центре глобальной дилеммы искусственного интеллекта
На Meta Connect умные очки компании были повсюду
Борьба властей Нового Южного Уэльса с «подделанными ИИ» объявлениями об аренде упёрлась в мурал на стене
Astra и Opus прошли ещё одно испытание Тьюринга
Crusoe отказалась от плана на $1,25 млрд по использованию турбин Boom в ИИ-дата-центрах
Незащищённые агенты OpenAI выложили в интернет 53 пользовательских изображения без ведома компании
Трамп и председатель КНР Си завершили саммит, не договорившись о серьёзных мерах по ИИ
Ежедневные новости об ИИ
Каждый день отбираем важные новости об ИИ и рассказываем главное — без хайпа и воды. Если хотите понимать, что происходит в ИИ раньше остальных, — подписывайтесь.
Только важное — каждый день
В Telegram