Глава Банка Англии: на фоне растущей угрозы нужно сохранить право вмешиваться в работу ИИ

Управляющий Банком Англии Эндрю Бейли призвал сохранить за властями «право вмешиваться» в развитие ИИ на фоне опасений, что вышедшие из-под контроля модели могут поставить финансовую систему под угрозу.

По словам Бейли, риски от передовых моделей ИИ — некоторые из них в последние месяцы вели себя непредсказуемо — реальны и становятся всё значительнее. Общественности также всё сложнее контролировать мощные модели, работающие, как выразился управляющий, внутри «самоподдерживающегося цикла».

Это угрожает финансовой стабильности. Новые технологии увеличили масштаб и изощрённость кибератак на финансовую систему, предупредил Бейли. Под угрозой могут оказаться повседневные платежи по картам, банковские переводы, а также торговля акциями и облигациями на финансовых рынках.

Эндрю Бейли заявил, что риски, связанные с быстрым развитием передовых моделей ИИ, «реальны и становятся всё более значительными»

Источник: theguardian.com

Заявление прозвучало на фоне предупреждения Комитета Банка Англии по финансовой политике: растущий объём долгов в сфере ИИ усиливает риски для финансовой стабильности.

Бейли назвал потенциальные преимущества ИИ огромными, но добавил, что власти должны быть готовы вмешаться.

В колонке для серии материалов Bank of England Insight он написал, что для безопасного получения этих преимуществ нужно решить, должна ли у общества оставаться возможность вмешиваться, устанавливать границы работы таких систем и пересматривать их по мере развития технологий. По мнению Бейли, ответ однозначно положительный.

При этом властям, по его словам, нужно понять, что именно может вынудить их вмешаться. Разумным первым шагом Бейли считает тщательную проверку новых моделей ИИ: она поможет разобраться в их поведении и определить реальные точки, в которых власти смогут принять меры.

Со временем полученные знания можно закрепить в стандартах. Это поможет выработать единый подход для всей финансовой системы и, возможно, экономики в целом, отметил он.

Однако управляющий не призвал срочно ужесточать регулирование. По его мнению, начинать с этого неправильно: на фоне ажиотажа вокруг ИИ обсуждение устройства регулирования может начаться слишком рано — до того, как станет ясно, где именно возникает сбой.

В последние недели всё больше законодателей, исследователей ИИ и даже некоторых компаний отрасли призывают усилить государственный надзор. Но перспективы международного сотрудничества ослабли после того, как Дональд Трамп в целом отверг призывы к дополнительному регулированию ИИ. Большая часть таких технологий разрабатывается в США; Трамп предупредил, что регулирование может помешать конкурировать с Китаем и навредить экономическому росту.

Бейли считает, что стандарты могут помочь защитить финансовую систему от вредоносного ИИ, который способен действовать за пределами устоявшихся общих норм, обязательств и ответственности.

Центральные банки отвечают за стабильность системы в целом, заявил он. По словам Бейли, власти не могут оставаться в стороне и полагаться на то, что технологический прогресс сам разрешит эти вопросы. Общественные интересы требуют заняться ими сейчас, пока риски не стало сложнее сдерживать.

Комитет по финансовой политике отдельно предупредил о быстро растущих долгах отрасли. С января по сентябрь этого года крупные компании, работающие в сфере ИИ, заняли $450 млрд (£339 млрд). Эта сумма уже превысила объём государственных облигаций, которые правительство Великобритании планирует выпустить за весь 2026 год: $333 млрд.

Инвесторы, среди которых хедж-фонды, управляющие активами и фонды частного кредитования, теперь сильнее зависят от успеха ИИ-компаний, хотя эти технологические компании ещё не вышли на прибыль.

В протоколе заседания комитета от 25 сентября сказано, что быстрый рост выпуска долговых обязательств, связанных с ИИ, увеличивает зависимость рынков капитала от развития этой технологии. Комитет подчеркнул, что усиливающиеся взаимосвязанные риски необходимо своевременно и тщательно контролировать.