ИИ всё лучше сбивает киберпреступников с толку

Даже когда ИИ помогает развивать интернет-мошенничество и киберпреступность, его используют и для защиты потенциальных жертв. Правоохранительным органам разных стран трудно бороться с онлайн-преступниками, которые действуют через границы государств. Поэтому появились альтернативные подходы: например, массово отвлекать мошенников автоматизированными системами, чтобы те тратили ресурсы на пустые разговоры. Теперь ИИ-платформы превращают подобные эксперименты в практические инструменты.

Боты для телефонных мошенников

Последние два года австралийская компания Apate — её название отсылает к древнегреческой богине обмана — разрабатывает систему, которая перенаправляет звонки мошенников на ИИ-ботов. Те поддерживают разговор как можно дольше, но сами не попадаются на уловки. Задача — дать мошенникам надежду на успех, чтобы они не клали трубку, и одновременно собирать сведения о применяемых схемах.

Основатель и генеральный директор Apate Дали Кафар рассказал, что компания стремится создавать для мошенников идеальных жертв. Пока мошенник разговаривает с ботом или агентом, он может не дозвониться до сотен или даже тысяч потенциальных жертв: многие преступники используют системы автоматического обзвона.

Платформой Apate пользуются банки, а телекоммуникационные компании поддерживают её работу. По словам Кафара, в системе около 350 000 ботов. Они не только отвечают на звонки, но и проникают в групповые чаты мошенников, а также отвечают на текстовые сообщения. Всё это помогает задерживать преступников и собирать информацию. Компания в реальном времени получила более 250 000 сведений о мошенниках — от ссылок на мошеннические сайты до данных о денежных посредниках и банковских реквизитов.

У ботов разные характеры, языковые навыки и профили, чтобы мошенники не догадались, что общаются с ИИ. Одни персонажи пользуются WhatsApp, другие — нет; кто-то отвечает на звонок, а кто-то сбрасывает его и обещает вернуться позже.

Как Apate проверили на практике

Журналисты Kernel Panic протестировали демоверсию Apate: участники играли роль мошенников и разговаривали с одним из ИИ-персонажей. Боты проявляют разумную долю сомнения, но оставляют мошенникам возможность продолжать попытки убедить их. Участники сразу заметили эту тактику и сочли общение очень раздражающим.

По словам Кафара, мошенники, вероятно, привыкли к скептически настроенным собеседникам, а звонки Apate регулярно длятся больше двух часов. Во время теста система отвечала по теме, поддерживала разговор, а его темп казался естественным. Журналисты по очереди изображали подругу по имени Люси и её финансового консультанта Микки. За шесть минут настойчивых попыток им не удалось уговорить ИИ вложиться в криптовалюту, хотя её доходность они называли невероятной.

Даже с большой сетью ботов Apate люди всё равно будут получать мошеннические звонки и сообщения. Киберпреступники ежегодно рассылают миллиарды сообщений и совершают миллиарды звонков. Самые сложные операции ведутся на крупных промышленных площадках для мошенничества. Профессиональные борцы с мошенниками и проекты по проникновению в преступные сети годами помогали сдерживать злоумышленников, но правоохранительные органы и исследователи не смогли остановить общий рост цифрового мошенничества.

ИИ может открыть новый этап борьбы с такими преступлениями. Правоохранителям, соцсетям, банкам и другим отраслям нужно лучше обмениваться данными; в этом могут помочь мониторинг и анализ информации с использованием ИИ. Некоторые новые инициативы пытаются нарушать работу киберпреступников, воздействуя на их психологические уязвимости. В отдельных случаях такие операции включали прямые провокации участников атак программ-вымогателей. По мере того как борьба всё чаще нацеливается на срыв работы мошенников и киберпреступников, генеративный ИИ всё эффективнее отвлекает их, заставляет тратить ресурсы и мешает проводить другие атаки.

Языковые модели в ловушках для хакеров

Компании и специалисты по кибербезопасности годами создают ложные виртуальные машины — «медовые ловушки», которые привлекают хакеров, отнимают у них время и помогают собирать сведения об их скрытых методах взлома. Марк Веро, аспирант кафедры информатики ETH Zurich, рассказал, что разработчики открытых медовых ловушек всё чаще добавляют в них большие языковые модели, чтобы системы выглядели правдоподобнее.

В недавнем исследовании Веро и его коллег ИИ-агенты значительно дольше атаковали ловушку с языковой моделью, чем ловушку с более предсказуемым поведением. По словам Веро, ИИ-агенты, выполняющие атаки, чаще принимали имитацию на основе языковой модели за настоящую систему и реже распознавали ловушку. Он считает, что хорошо созданные системы такого типа могут дать защитникам преимущество.