Мировым лидерам пора осознать угрозу кибератак — иначе взломанные холодильники покажутся меньшей из проблем

На прошлой неделе в жарком Бангкоке, где собрались ведущие экономисты, руководители центробанков и министры финансов, обсуждали взломанные французские холодильники. Эта история помогла показать, насколько велики могут быть последствия кибератак.

Глава Международного валютного фонда Кристалина Георгиева рассказала, что хакеры проникли в системы управления холодильниками французских супермаркетов и подняли температуру до 50 °C. Магазинам пришлось выбросить испорченные продукты.

На ежегодных встречах МВФ в столице Таиланда Георгиева призвала защищаться от злоумышленников в быстро меняющемся взаимосвязанном мире. По её словам, ИИ многократно увеличивает возможности цифрового мошенничества.

Политики уже некоторое время предупреждают, что бум ИИ может угрожать финансовой стабильности: например, вызвать обвал цен на акции, который обычно называют «коррекцией».

Однако в Бангкоке особенно остро прозвучала другая связанная с ИИ угроза. Георгиева опасается, что усиление киберпреступности подорвёт доверие к финансовой системе в целом.

В социальных сетях полно рекламы криптовалют и золота с поддельными знаменитостями. Даже мошеннические рассылки в духе старых электронных писем теперь можно создавать в гораздо больших масштабах.

Поток низкокачественного контента, созданного ИИ, может подорвать доверие к журналистике, основанной на фактах, и увести людей в политические ловушки. Георгиева опасается, что цифровое мошенничество может также лишить потребителей доверия к обычным банкам.

Вспоминая детство в Болгарии за железным занавесом, она рассказала, что многие не доверяли системе и хранили наличные в коробке из-под обуви под кроватью. Георгиева опасается, что, если не научиться опережать развитие угроз, люди снова начнут держать сбережения в таких коробках.

Для этого даже не обязательно ждать волны киберпреступности. На этой неделе глава JPMorgan Джейми Даймон заявил, что банк не позволит цифровым агентам действовать от имени клиентов: по его словам, таких неконтролируемых агентов могут быть тысячи.

ИИ-агенты, в том числе Muse от Meta, уже предлагают пользователям передавать им финансовые данные. После этого агенты могут искать самые выгодные ставки по сберегательным счетам и переводить туда деньги клиента.

Финансовые регуляторы беспокоятся по нескольким причинам. Если такие услуги станут массовыми, они могут привести к синхронным действиям клиентов и дестабилизировать систему. Возможность в любой момент переместить вклады между банками способна ускорить отток средств в период неопределённости.

Вторая причина для беспокойства — вопрос, на который указал Даймон: кто отвечает, если ИИ-агент принимает за клиента финансовое решение, которое приводит к катастрофическим последствиям или даже оказывается преступным?

Вероятно, ответ придётся искать в судебных прецедентах — они появятся лишь тогда, когда что-то пойдёт не так. Неясность в вопросах о том, кто и кому что должен при неудаче, может усилить финансовую нестабильность.

Этот урок усвоили во время кризиса 2008 года: некоторые банки создали финансовые продукты с настолько сложной структурой обязательств, что их практически невозможно было оценить. Это вызвало панику.

Выступая вместе с Георгиевой, глава Банка Англии и председатель Совета по финансовой стабильности Эндрю Бейли обратил внимание ещё на одну новость этой недели. Anthropic предупредила, что модели ИИ вскоре могут научиться самокопированию на бытовых устройствах. Кто должен нести ответственность и оплачивать ущерб, если подключённая к интернету духовка или телевизор выйдет из строя из-за самокопирующегося бота?

Один из разумных вариантов для потребителей — отказаться от устройств с подключением к интернету и пользоваться обычной бытовой техникой, которую нельзя захватить с помощью таких ботов. В этом месяце некоторые французские супермаркеты отключили холодильники от сети, чтобы избежать взлома.

Общество немного потеряет, если умные чайники и холодильники не станут популярными. Но финансовым аналогом обычной техники могут оказаться коробки для наличных, о которых говорила Георгиева. Такой выбор обойдётся потребителям и затруднит нормальную работу экономики. По словам Бейли, без доверия к деньгам общество не сможет функционировать.

Руководители финансовых ведомств всерьёз обеспокоены столкновением быстро развивающегося ИИ с мировой финансовой системой. Она уже включает не только строго регулируемые банки, но и социальные платформы, платёжные приложения и другие финансовые инструменты.

Ситуацию осложняет то, что США — центр бума ИИ — возглавляет человек, чей главный вклад в дискуссию состоит в попытке переименовать ИИ в «сверхразум».

На встречах в Бангкоке на этой неделе председатель Федеральной резервной системы США Кевин Уорш использовал на сцене выражение Дональда Трампа. Так должны поступать все американские государственные ведомства.

В признании рисков есть некоторый прогресс. Целевая группа Трампа по сверхразуму под руководством директора национальной разведки Джея Клейтона создаёт механизмы, чтобы лаборатории ИИ сообщали о нарушениях, взломах, обходах ограничений и других проблемах. Однако, судя по всему, от лабораторий не будут требовать проверять модели до их выпуска.

Великобритания пообещала включить безопасность ИИ в повестку своего председательства в G20 в следующем году. Министры финансов стран G7, собравшиеся в Бангкоке, договорились провести моделирование, чтобы проверить, насколько мировая финансовая система устойчива к кибератакам.

Такие проверки помогут обнаружить уязвимости. Но вопросы гораздо шире и сложнее, чем возможность взлома банков преступниками, и требуют срочного решения — именно в тот момент, когда перспективы международного сотрудничества выглядят мрачными. Если злоупотребление сверхразумом приведёт к финансовому хаосу, он окажется совсем не сверхспособностью.

Кристалина Георгиева из МВФ обеспокоена тем, что киберпреступность, ускоренная ИИ, может подорвать доверие к финансовой системе

Источник: theguardian.com