Как ИИ может резко усилить угрозы выборам в Юго-Восточной Азии

Несколько лет назад подобная операция потребовала бы целой армии кибербойцов: им пришлось бы создавать сайты с фальшивыми новостями, аккаунты в соцсетях и поддельные документы, а затем массово распространять дезинформацию.

Случай в Малайзии показал, как ИИ может ускорить такую работу. По данным Anthropic, Claude помог создать коммерческую платформу для манипуляции выборами. В ней задействовали около 1 000 аккаунтов в X, поддельное СМИ Malaysia Pulse и набор сфабрикованных документов.

Операция, по-видимому, была нацелена на избирателей во время недавних выборов в штатах Малайзии. Организаторы использовали данные переписи населения и избирательные сведения, чтобы задействовать чувствительные политические и социальные противоречия — связанные с расой, религией и монархией — во всех 222 парламентских округах страны.

Anthropic вмешалась, и в итоге операция не достигла цели. Но она вызвала опасения, что ИИ можно будет использовать для воздействия на будущие выборы в Юго-Восточной Азии — регионе, который и без того уязвим перед фейковыми новостями.

Кэти Харбат, ранее занимавшаяся в Meta вопросами государственной политики на выборах по всему миру, считает этот случай примером того, как ИИ делает производство дезинформации более изощрённым и доступным. По её словам, ИИ позволяет быстрее и дешевле создавать больше контента, подстраивая его под конкретных людей. Однако для распространения всё ещё нужен канал — сейчас эту роль в основном играют социальные сети.

Anthropic описала операцию в Малайзии в последней оценке угроз, опубликованной в сентябре. В отчёте говорится, что с помощью Claude создавали сети поддельных профилей в соцсетях и новостных сайтов, нацеленных на аудитории на шести континентах. По данным компании, среди организаторов были правительства, связанные с государствами пропагандистские организации и государственные СМИ, а также частные фирмы, продающие услуги по влиянию на аудиторию.

«Заполнить информационное поле»

Юго-Восточная Азия давно сталкивается с дезинформацией. В последние годы лауреат Нобелевской премии и филиппинская журналистка Мария Ресса сравнивала Филиппины с «чашкой Петри» для распространения дезинформации и фейковых новостей. По её словам, методы, опробованные в этой стране, позднее успешно применяли на Западе.

Россине Фаллорина из филиппинского исследовательского центра Sigla, изучающего ИИ, сравнивает происходящее с фабрикой троллей. ИИ ускоряет производство контента: чтобы создать и распространить историю, больше не нужна команда из десяти человек — достаточно задать промт.

В прошлом году OpenAI заблокировала аккаунты, которые использовали ИИ для создания комментариев о политике Филиппин и государственных чиновниках в соцсетях. Многие вымышленные комментарии поддерживали президента Фердинанда Маркоса-младшего.

В Юго-Восточной Азии живёт преимущественно молодое население, широко пользующееся интернетом. Некоторые эксперты опасаются, что ИИ будет усиливать раскол в соцсетях.

Бриджит Уэлш из Азиатского исследовательского института Малайзии при Ноттингемском университете говорит, что ИИ подпитывает политическую поляризацию и использует уже существующие противоречия. По её словам, особенно тревожит фрагментация информационной среды в Малайзии.

Очередные всеобщие выборы в Малайзии могут пройти в конце 2027 года. В 2028 году голосовать будут на Филиппинах и в Камбодже, а годом позже — в Индонезии.

В регионе ИИ уже влиял на общественное мнение. Во время выборов 2024 года в Индонезии огромную популярность получила созданная ИИ мультяшная картинка нынешнего президента Прабово Субианто. Она помогла смягчить его образ сильного лидера.

ИИ применяли и для разжигания вражды. По словам доктора Бена Ло, преподавателя медиа в Университете Монаша в Малайзии, с его помощью провоцировали ненависть к беженцам-рохинджа, которые бежали из Мьянмы в Малайзию во время гражданской войны.

Ло отмечает, что у людей уже может быть укоренившаяся ненависть. Когда они видят подобный контент, то даже понимая, что он создан ИИ, воспринимают его как подтверждение того, во что уже верят.

В отчёте Anthropic говорится, что поддельное СМИ собирало настоящие материалы малайзийских изданий, просило модель переписать их несколько раз и публиковало заново под вымышленными именами авторов. Оно также перепечатывало статьи связанных с Россией и Китаем зарубежных СМИ — TV BRICS, Xinhua, Sputnik/RIA и CGTN, — убирая указание на источник.

Anthropic сообщила, что во всех выявленных случаях политического влияния компания пресекала активность, использовала полученные сведения для усиления защитных мер и, когда это было уместно, передавала информацию властям и отраслевым партнёрам.

В будущем, считает Харбат, ИИ могут использовать, чтобы «заполнить информационное поле» и повлиять на большие языковые модели, из которых ИИ-системы берут сведения. По её словам, для этого может хватить небольших затрат — особенно если новостей мало или в стране преобладают спонсируемые государством СМИ.