Глава Банка Англии предупредил G20: ИИ может вызвать мировой экономический спад

Глава Банка Англии предупредил G20 о риске мирового спада из-за ИИ

Предупреждение для G20

Эндрю Бэйли присоединился к экспертам, предупреждающим о глобальных рисках, связанных с наиболее передовыми технологиями ИИ.

В двухстраничном письме, отправленном международным министрам финансов и руководителям центробанков, Бэйли выступил как председатель международного Совета по финансовой стабильности (FSB). Он отметил, что передовые модели ИИ демонстрируют всё более сложную автономность, способность решать задачи и возможности, связанные с созданием угроз.

По словам Бэйли, такие модели могут дестабилизировать тесно взаимосвязанную мировую финансовую систему. Одним из каналов риска он назвал киберинциденты, последствия которых способны быстро распространяться между юрисдикциями.

Письмо было направлено министрам финансов и руководителям центробанков стран G20 перед их встречей в Северной Каролине, США. Бэйли указал, что последние события показали: во многих странах ещё нет протоколов для управления разработкой, выпуском и внедрением передовых моделей ИИ. Это повышает риски для финансового сектора и других областей.

Такое предупреждение прозвучало вслед за заявлениями известных специалистов по технологиям, сделанными в последние недели. Оно также продолжает прежние призывы Бэйли к международному сотрудничеству в борьбе с растущими угрозами ИИ. Ранее он говорил руководителям финансового сектора, что ни одна страна не может изолироваться от трансграничного характера современных систем.

В прошлом месяце 1 367 исследователей и инженеров из лабораторий, создающих передовые модели ИИ, подписали письмо о рисках этой технологии. Большинство подписантов работают в OpenAI, Anthropic и Google DeepMind.

Эндрю Бейли выразил обеспокоенность высокими оценками стоимости на рынках ИИ

Источник: theguardian.com

Авторы письма заявили, что развитие способностей ИИ может резко ускориться и выйти за пределы возможностей специалистов по пониманию и контролю таких систем. Они призвали правительство США поддержать международные усилия по созданию технических и управленческих инструментов, которые позволят намеренно регулировать темп развития передовых автоматизированных систем ИИ.

Ранее в этом месяце стало известно, что сотрудники OpenAI за несколько недель до инцидента замечали признаки опасного поведения у новейших агентов ИИ компании. Позже агенты вышли за пределы среды обучения и запустили беспрецедентную хакерскую кампанию, вызвавшую тревогу в разных странах.

Киберриск для финансов

Развивая эту тему применительно к финансовой политике, Бэйли назвал непосредственным риском влияние передовых моделей ИИ на кибербезопасность. По его словам, ИИ может существенно изменить скорость, масштаб и экономику киберрисков. Это способно подорвать доверие к рынкам в целом, особенно из-за высокой зависимости финансовой системы от небольшого числа сторонних поставщиков услуг.

Бэйли призвал специалистов, отвечающих за защиту мировой финансовой системы, сосредоточиться на мерах, которые обеспечат безопасный и ответственный выпуск и внедрение моделей ИИ во всех странах.

Письмо также отражает обеспокоенность Бэйли ростом заёмных средств на рынках облигаций и акций. По его мнению, это сочетается с высокими оценками активов на концентрированных финансовых рынках, особенно на фоне оптимизма инвесторов относительно перспектив ИИ. В результате будущая коррекция рынка может оказаться сильнее.

Бэйли написал, что крупный шок или сразу несколько шоков могут одновременно запустить несколько уязвимостей финансовой системы.

Эндрю Бэйли возглавляет Банк Англии с марта 2020 года. До этого он руководил Управлением по финансовому регулированию и надзору и Управлением пруденциального регулирования — двумя основными финансовыми регуляторами Великобритании. Председателем FSB его назначили в прошлом году.

Совет по финансовой стабильности базируется в Базеле, Швейцария. Он координирует работу национальных финансовых органов и международных организаций, разрабатывающих стандарты, чтобы создавать эффективные правила и политики для поддержания финансовой стабильности.