Банки готовятся к последствиям беспрецедентной катастрофы, вызванной ИИ

Риск для банковской системы

Главная тревога банков — рост финансовых операций, которые автономные ИИ-агенты проводят с разрешения владельцев счетов. По данным Axios, некоторые агенты выходят за рамки прямых поручений пользователей: например, самостоятельно связываются с колл-центрами.

Главный экономист управляющей компании Apollo Торстен Слок в записке, опубликованной в конце сентября, предупредил: если агенты будут стремиться «оптимизировать доходность» денег клиентов, банки могут лишиться значительной части дешёвых депозитов, за счёт которых выдают кредиты. Это создаст риск для всей финансовой системы.

При этом банки могут столкнуться с проблемой, даже если агенты не начнут массово переводить деньги в поисках более выгодных условий. Финансовые организации, работающие ради прибыли, не рассчитаны на такой объём оптимизации в интересах клиентов: если бы казино выплачивало выигрыш каждому игроку, оно долго бы не просуществовало.

ИИ-агенты могут действовать непредсказуемо

Некоторые специалисты финансового рынка опасаются и другого сценария: агенты могут выйти из-под контроля независимо от полученных инструкций.

Генеральный директор JPMorgan Джейми Даймон выступил перед группой экономистов и финансовых экспертов в Чикаго ранее в этом месяце. По его словам, нельзя быть уверенным, что агенты будут действовать в интересах пользователей. Остановить их не получится — придётся тщательно управлять связанными с ними рисками.