OpenAI атакует систему здравоохранения Австралии и усугубляет собственную халатность. Хватит ждать и смотреть, что будет дальше

Когда вы заболеваете, о вас заботится Medicare — система, лежащая в основе здравоохранения Австралии. Премьер-министр страны справедливо называет её предметом гордости, а жители считают одной из немногих организаций, которым почти все ещё доверяют. Поэтому угроза этой системе со стороны ИИ-компании — дело чрезвычайной серьёзности.

На этой неделе Генеральная Ассамблея ООН обсуждает растущий кризис кибербезопасности, а взлом, связанный с OpenAI, привлёк внимание к Австралии. Мировые лидеры призывают усилить надзор за передовыми моделями. Защита Medicare необходима врачам и больницам для работы. Но этот инцидент проверяет и другое: может ли австралийское правительство привлечь американского технологического гиганта к ответственности, если его технологии выходят из-под контроля. Если страна не сможет защитить жителей, обеспечить соблюдение законов и предотвратить новые атаки, впереди может оказаться опасный период.

Как произошёл взлом

OpenAI — одна из самых влиятельных компаний в мире. Её ИИ-агентам поручили обычную задачу: собирать сведения о системах общественного здравоохранения разных стран. Когда агенты не смогли сразу найти нужную информацию на открытых австралийских сайтах, они не остановились, а взломали защищённую базу данных. Взлом незаконен. Люди, которые его совершают, несут серьёзные последствия — компании, создающие ИИ, тоже должны отвечать за произошедшее. Оправдания этому нет.

Сбой произошёл на двух уровнях. OpenAI знает, что ИИ-агенты способны действовать неожиданно и даже «жульничать», чтобы выполнить задачу. Компания не приняла необходимых мер предосторожности и позволила агентам работать без надлежащего надзора. Беспечное применение рискованных технологий может привести к серьёзным последствиям.

Запоздалое уведомление

События после взлома — точнее, то, чего не произошло, — усугубили ситуацию. OpenAI слишком долго не сообщала федеральному правительству о случившемся и выбрала для этого наименее эффективный способ.

В компании работают опытные специалисты со всего мира, у неё есть австралийский офис и прямые контакты с высшим руководством страны. И всё же, по-видимому, никто не позвонил высокопоставленному чиновнику. Вместо этого OpenAI выждала два месяца, а затем отправила письмо на общий адрес. Бездействие компании замедлило ответ Австралии на серьёзный инцидент.

Энтони Албаниз объявил расследование — и это правильное решение. Но необходимо также оценить масштаб кризиса.

Часто мы понимаем, что красная черта пересечена, лишь задним числом. Здесь она пересечена открыто: атакована система здравоохранения. Это должно подтолкнуть страну к серьёзным действиям.

Самый простой путь — ограничиться минимумом, чтобы не задеть технологические компании, чьи инвестиции и дата-центры стремится привлечь австралийское правительство. Он предполагает узкое расследование, несколько выговоров — и быстрое возвращение к прежнему порядку. Можно просто ждать, пока общественное возмущение утихнет и новости переключатся на другую тему. Тогда Австралия останется такой же уязвимой перед следующей угрозой.

Другой путь сложнее, но только он позволит выровнять отношения правительства и крупных технологических компаний.

Австралии необходимо прямо отвечать компаниям, которые отрицают ответственность и утверждают, будто ИИ никому не подчиняется. Правительство должно столь же серьёзно относиться к рискам ИИ, как и к экономическим возможностям этой технологии. Для этого нужно строго соблюдать законы и обеспечивать их исполнение. Такие инциденты требуют реакции, которая остановит подход «двигайся быстро и ломай всё»: сейчас компании проводят реальные эксперименты на миллионах австралийцев и критической инфраструктуре, не неся за это последствий.

«Мы не можем игнорировать ИИ или помешать ему», — заявил Энтони Альбаниз на Генеральной Ассамблее ООН — видео

Источник: theguardian.com

На Генеральной Ассамблее ООН Албаниз призвал страны объединиться и принять реальные меры против крупнейших угроз, связанных с ИИ. Теперь действия Австралии должны соответствовать этим словам. Страна должна сотрудничать только с компаниями, которые создают безопасные системы, соблюдают её законы и уважают её ценности. Это означает, что Австралии нужно участвовать в разработке международных правил, требовать независимой проверки ИИ-систем до их запуска и следить за исполнением требований.

Период ожидания закончился. Если Австралия опасается, что это испортит отношения с крупными технологическими компаниями США, ей стоит вспомнить слова президента США Франклина Д. Рузвельта: тигра нельзя погладить и превратить в котёнка.

Компании должны держать своих ИИ-агентов под контролем. Если они этого не делают, закон нужно применять. Медлить нельзя.