Одного письма на общедоступный адрес недостаточно, чтобы защитить австралийцев от потенциальной катастрофы из-за ИИ

Риск для Medicare

Источник: theguardian.com

Выступление Альтмана прозвучало особенно неубедительно после того, как выяснилось: созданный OpenAI агент получил доступ к чувствительным системам австралийской программы медицинского страхования Medicare. По мере роста тревоги из-за возможной угрозы ИИ для цивилизации Албаниз назвал инцидент основанием для того, чтобы демократически избранные правительства установили защитные ограничения для этой технологии. Некоторые уже считают, что риск выхода ИИ из-под контроля сопоставим с пандемией COVID-19 или гонкой ядерных вооружений.

Правительство Албаниза хочет с помощью новых законов об ИИ ослабить чувство беспомощности перед крупными технологическими компаниями. Ранее оно решило запретить детям младше 16 лет пользоваться социальными сетями и обязать платформы дать пользователям возможность отказаться от мощных алгоритмов.

Однако объявление в четверг о взломе правительственных сайтов показало, что серьёзные уязвимости и сбои в процедурах есть и у OpenAI, и у федеральных властей. Взлом произошёл в июне, но руководители компании сообщили Services Australia о том, что были получены статистические данные об использовании Medicare, только в сентябре.

Хотя OpenAI располагает крупными ресурсами и штатом хорошо оплачиваемых специалистов по связям с правительством и лоббистов, компания спустя месяцы после взлома сочла достаточным отправить предупреждение на общедоступный электронный адрес австралийского ведомства. Такое письмо вполне могли принять за спам.

Реакция ведомств

Впервые: ИИ-мошенник взломал правительственную систему — последние новости

Источник: theguardian.com

Действия компании были совершенно недостаточными и, по мнению автора, безрассудными. Они показали пренебрежение к австралийскому правительству и гражданам, чьи медицинские данные были похищены. В начале сентября Альтман встречался с министром обороны Австралии Ричардом Марлзом, но не сообщил ему о взломе.

Государственная служба отреагировала на письмо не сразу. Общий почтовый ящик проверяли обычно лишь раз в день, поэтому сотрудники Services Australia прочли сообщение 11 сентября. Австралийское управление сигналов уведомили только 15 сентября, а министра Кэти Галлахер — ещё через два дня. 22 сентября государственные служащие запросили у OpenAI сведения о масштабах взлома. Затем быстро начали расследование, а общественность наконец проинформировали об инциденте. Сам Албаниз узнал о нём уже после отъезда в Нью-Йорк.

Закон и расследование

Правительство планирует завершить работу над законодательством об ИИ до Рождества, а парламент должен рассмотреть его в следующем году. По мнению автора, закон должен обязать компании, работающие с ИИ, сообщать об инцидентах. Уведомления должны направлять высокопоставленные представители ответственной организации — тогда к ним отнесутся серьёзно. Общедоступного почтового ящика для этого недостаточно.

В пятницу помощник министра по технологиям и цифровой экономике Эндрю Чарлтон заявил, что правительство запросит рекомендации о возможной передаче дела на уголовное расследование. По его словам, для установления юридической ответственности потребуется определить намерения человека или компании, которые создали ИИ-агента либо дали ему указание взломать систему.

Опубликованное в четверг премьерским департаментом техническое задание на ускоренное расследование охватывает несколько вопросов:

Перед отъездом из США в пятницу Албаниз предложил создать международный орган с полномочиями по регулированию и расследованию, который помогал бы правительствам защищать граждан.

Международные риски

Тревогу усилило предупреждение ведущего исследователя по безопасности из Anthropic. В этом месяце он заявил, что ИИ развивается так быстро, что вероятность его способности «убить всех людей» в ближайшее десятилетие превышает 10%.

Оптимизма не добавила и встреча Дональда Трампа и Си Цзиньпина с Альтманом и другими руководителями технологических компаний на официальном ужине в Белом доме. Трамп выступает против сдерживания развития ИИ, опасаясь, что Китай получит новое стратегическое преимущество над США. По сообщениям, за закрытыми дверями Си предложил продолжить диалог с Трампом, чтобы предотвратить «неправомерное использование и злоупотребления» ИИ. Сам Трамп, ожидая серьёзного поражения на ноябрьских промежуточных выборах, заявил, что ИИ «касается будущего человечества».

Новые сведения о действиях OpenAI вряд ли успокоили жителей Австралии. В эту новую эпоху мировым лидерам придётся отвечать на растущее чувство беспомощности и защищать цивилизацию.

— Том МакИлрой, политический редактор Guardian Australia