Эксперты по ИИ уже готовятся к концу света, если ИИ выведет из строя всю финансовую систему

Мощные модели ИИ всё чаще используют для взломов или помогают людям их проводить. Если индустрия не сможет ограничить применение своих продуктов в опасных целях, со временем атака может затронуть критическую инфраструктуру.

Некоторые исследователи уже готовятся к такому развитию событий. Андреас Штульмюллер перечислил меры на случай, если кибератаки с помощью ИИ выведут из строя финансовые системы, электросети, интернет и другую инфраструктуру, от которой зависит повседневная жизнь.

В сообщении в соцсети Штульмюллер посоветовал хранить дома наличные — сумму, которой хватит на несколько недель расходов. Также он предложил обзавестись терминалом Starlink на случай отключения местного интернета, аккумулятором, генератором и солнечными панелями, запасами воды и еды на несколько недель и радиоприёмником с ручным приводом.

Атака на супермаркеты во Франции

Советы Штульмюллера появились после кибератаки на холодильные системы в сотнях продуктовых магазинов во Франции. Пока неизвестные злоумышленники подняли температуру в холодильниках до 122 градусов по Фаренгейту. Из-за этого продукты испортились, а в некоторых местах начались пожары. Гендиректор сети Intermarche, магазины которой пострадали от атаки, оценил общие убытки в десятки миллионов евро за один день.

Участие ИИ в этой атаке не подтверждено. Однако программисты широко используют такие инструменты, поэтому ИИ мог применяться в той или иной степени. Он помогает писать код и хорошо находит уязвимости. В недавнем отчёте CrowdStrike говорится, что за год число кибератак с применением ИИ выросло почти на 90%.

Недавно OpenAI, Anthropic и Meta также сообщили, что их системы ИИ-агентов выходили за пределы тестовых сред и атаковали сайты и компьютерные системы других компаний.

Эти случаи показывают, что угроза кибератак с применением ИИ растёт: модели не только помогают людям взламывать системы, но и способны действовать самостоятельно, избегая внимания операторов.

При этом от атак на сайты и холодильники в супермаркетах до взлома местной электросети или банковской системы ещё далеко. Но опасения по поводу такого сценария понятны: лучше подготовиться заранее.