За сотнями обычных ИИ-приложений скрываются функции создания сексуальных дипфейков

Viefur на первый взгляд выглядит как ещё одно приложение для генерации изображений. За цифровые монеты, которые продаются внутри приложения, можно превратить фотографию питомца в «антропоморфный портрет»: животное будет одето в «человеческую одежду» и помещено в необычную сцену. Например, хомяк в пляжных шортах и солнечных очках отдыхает в бассейне, а кот в гавайской рубашке пьёт из кокоса. Около 4 долларов дают 130 монет.

Но, по данным расследования WIRED, за этим оформлением скрывается, судя по всему, настоящая цель приложения — создание сексуально оскорбительных дипфейков.

WIRED обнаружило сеть из более чем 400 связанных доменов и приложений. Как и Viefur, многие из них выдают себя за обычные сервисы, например за курсы языков или ИИ-тренеров для занятий спортом. При определённых условиях приложения незаметно загружают веб-интерфейс для создания откровенных изображений и видео с помощью фотографий пользователей. Среди доступных сцен — «изнасилование в спальне» и «угроза ножом», где мужчина приставляет нож к шее женщины.

Несколько исследователей обнаружили сеть, изучая ссылки из тысяч видеореклам с откровенными дипфейками, опубликованных в Facebook и Instagram. Как WIRED сообщало в последние месяцы, в сотнях таких объявлений были ИИ-материалы сексуального насилия над детьми, в том числе изображения реальных детей и члена европейской королевской семьи. Реклама охватила десятки тысяч людей и привела к расследованиям со стороны регулирующих органов по всему миру.

Объявления вели на обманные приложения в магазинах Apple и Google. Через них пользователи могли создавать откровенные изображения и платить с помощью Apple Pay и Google Pay. Сеть приложений для создания обнажённых изображений, судя по всему, публикует их около года, иногда — десятками за неделю. Это происходило, несмотря на заявления Google, Apple и Meta о том, что компании соблюдают правила, запрещающие размещение вредоносных дипфейков на их платформах.

Судя по анализу доменов и работе сервисов, приложения и сайты, изученные WIRED, связаны с китайскими разработчиками и зарегистрированной в Гонконге компанией KeLing Technology Limited. На запросы WIRED о комментарии не ответили адреса электронной почты, связанные с компанией, приложениями и сервисами. После обращения журналистов публичные связи между KeLing Technology Limited и инструментами для создания дипфейков, по всей видимости, начали удалять.

Пол Бушо, ведущий исследователь некоммерческой организации ИИ Forensics, изучавший сеть, считает, что за ней стоит организованная коммерческая структура: один оператор управляет сотнями одноразовых приложений и доменов, маскирует их, чтобы пройти проверку App Store, и продвигает через десятки тысяч объявлений Meta с поддельными именами рекламодателей. По его словам, оператор не рассчитывает, что меры контроля его настигнут, и пока этого не произошло.

Скрытая работа приложений

Если скачать приложение из сети, оно может показывать именно то, что обещала реклама, — например, создавать изображения питомцев с помощью ИИ. Однако исследователи выяснили, что в фоновом режиме приложение решает, показывать безобидный контент или загружать веб-интерфейс с откровенными дипфейками.

Бушо, изучивший код приложений и связанных с ними сайтов, объяснил, что при каждой загрузке приложение обращается к серверу и передаёт ему, например, источник пользователя, язык и уникальный идентификатор. Сервер отвечает, какую версию показать — откровенную или обычную. По словам исследователя, чёткого списка условий для показа откровенной версии нет, но одним из возможных триггеров может быть переход после нажатия на связанное объявление в сервисах Meta.

Сайты, связанные с приложениями, помогли исследователям раскрыть устройство и масштаб сети. При открытии одного из таких сайтов, скорее всего, появится полностью чёрный экран без содержимого. Заметно будет только одно изменение: в адресе страницы появится слово «risk». Однако на сайтах размещён скрытый слой с откровенными дипфейками, который может загружаться в приложения.

В веб-интерфейсе есть десятки шаблонов порнографических дипфейков — видео и изображений. Пользователи могут загрузить фотографии людей, чтобы добавить их в сексуальные сцены. Интерфейс также позволяет покупать «алмазы» для генерации изображений и ведёт на другие аккаунты в соцсетях, где можно связаться с разработчиками с вопросами или жалобами.

В коде сайтов исследователи нашли и сведения обо всей сети. По их словам, в легко поддающемся анализу файле JavaScript содержится список созданных разработчиками доменов и приложений, сведения о пакетах приложений, ключи шифрования, рекламные счётчики Facebook и другие данные.

Маэль Ле Туз, штатный исследователь угроз из компании Infoblox, обнаруживший почти 500 связанных доменов, рассказал, что в коде был большой список других доменов с разными ключами шифрования. По его словам, все они используют один и тот же код и ссылаются друг на друга.

Анализ дат регистрации доменов, проведённый Бушо, показывает, что приложения начали появляться к концу 2025 года, а весной этого года их число резко выросло. В какой-то момент каждую неделю регистрировали около 30 приложений и сайтов для создания обнажённых изображений. В сентябре 27 таких приложений были доступны в Google Play. По данным исследования Бушо, вместе их скачали более 350 000 раз, а многие из них были помечены как подходящие для всех возрастов.

Одно из самых популярных приложений, DiffAI, создали в декабре 2025 года. Из Google Play его скачали более 100 000 раз. В отзыве пользователя в магазине говорилось, что приложение содержит шаблоны для создания материалов о сексуальном насилии над детьми и других порнографических материалов, но не проверяет возраст.

DiffAI удалили из Google Play незадолго до того, как WIRED обратилось в Google по поводу сети. Google не ответила на запрос издания, хотя большую часть приложений удалили ещё до обращения журналистов. О некоторых частях сети в сентябре сообщали датские журналисты.

Apple также удалила из App Store 19 приложений, в том числе Viefur, после запроса WIRED и передачи компании списка связанных доменов. Представитель Apple Адам Дема заявил, что создание обнажённых изображений и другой порнографический контент запрещены в App Store.

По словам Демы, все приложения проверяют перед публикацией, и на момент проверки эти приложения соответствовали правилам. После одобрения разработчики изменили сайт, из которого приложение получало контент, заменили одобренные материалы порнографическими и продвигали сервис через порнографическую рекламу на сторонней платформе. Apple сообщила, что за последний год приостановила работу десятков тысяч приложений, использовавших такую подмену, и недавно обновила правила магазина, чтобы дополнительно ограничить инструменты для создания обнажённых изображений.

Связи с Китаем

В центре сети приложений для создания обнажённых изображений, судя по всему, находятся китайские разработчики, личности которых, похоже, намеренно скрывали. Ле Туз рассказал, что сеть использует китайский хостинг, код написан на китайском и содержит много комментариев на этом языке. Кроме того, на откровенных видео из рекламы приложений в сервисах Meta были водяные знаки китайских программ для монтажа видео.

В доменах и приложениях сети часто использовались типовые политики конфиденциальности, бесплатные адреса Gmail или Outlook и малоизвестные имена разработчиков — всё это, как предполагают исследователи, могло помогать скрывать связи между сервисами. В рекламе приложений на платформах Meta также указывали, по всей видимости, поддельные имена, например Draftmondcreldbro Duhustepre и Swaldmungsha Glasirdcroldshold. Рекламу размещали со страниц без подписчиков. С начала этого года исследование Бушо выявило в сервисах Meta десятки тысяч откровенных дипфейк-объявлений, связанных с сетью. В рекламных текстах часто повторялись похожие формулировки.

Кэти Пол, директор Tech Transparency Project, первой обнаружившей рекламу с откровенными дипфейками несовершеннолетних, заявила, что такие объявления нарушают сразу несколько правил Meta. По её словам, по рекламе ясно, что именно показывают и продвигают. Пол считает, что технологические компании должны объяснить, куда поступают деньги от приложений и каким образом создатели сервисов для создания обнажённых изображений снова и снова обходят системы модерации контента и безопасности.

KeLing Technology Limited, судя по всему, играет заметную роль в работе сети. Сайт компании почти пуст, однако её название было указано в контактных данных первого зарегистрированного в сети сайта. Название этого сайта также появлялось в контактной информации внутри шаблона откровенного дипфейка, использовавшегося в приложениях. Бушо обнаружил страницу входа в панель управления, связанную с интерфейсом для создания откровенных дипфейков: на ней упоминалась «Keling». Кроме того, адреса на домене компании использовались как минимум в одном приложении, которое удалили из магазинов.

В конце сентября пользователи интерфейса для создания откровенных дипфейков получили уведомление о новой ИИ-модели Veyra. В приложениях её сопровождал слоган: «Реальнее. Естественнее. Безудержнее». На главной странице сайта Veyra AI был указан контактный адрес электронной почты KeLing Technology.

На запросы WIRED, отправленные на адреса KeLing и некоторые адреса из политик конфиденциальности приложений, ответа не последовало. Однако после обращения журналистов кто-то переименовал связанные аккаунты в соцсетях, удалил адреса KeLing с сайта Veyra AI и убрал адрес KeLing Technology Limited с первого зарегистрированного сайта.

Meta сообщила, что запретила KeLing Technology Limited размещать рекламу в 2025 году после того, как компания не выполнила требование прекратить деятельность. По юридическим причинам Meta отказалась предоставить WIRED копию этого требования. Представитель компании заявил, что Meta строго запрещает рекламу приложений для создания обнажённых изображений и активно удаляет такой контент. По словам представителя, KeLing Technology Limited продолжала искать другие способы размещения рекламы, и Meta принимает меры, когда обнаруживает такие объявления.

После того как WIRED передало Meta список из более чем 400 доменов, представитель компании сообщил, что с ними связаны более 3 000 объявлений. Две трети из них к тому моменту уже удалили. Позже Meta рассказала WIRED, что приняла меры в отношении 11 600 рекламных аккаунтов, более 4 700 бизнес-страниц, 5 200 пользователей и 15 000 страниц, связанных с доменами, а также запретила 209 приложениям размещать рекламу на своих платформах.

Представитель Meta заявил, что стоящие за сетью преступники всё изобретательнее пытаются уклониться от обнаружения: используют поддельные имена и личности, размещают безобидную на вид рекламу и иногда ведут пользователей в магазины приложений Google и Apple, раскрывая истинную цель объявления только после перехода по нему.

Когда WIRED завершило работу над материалом, похожие объявления и приложения продолжали появляться на технологических платформах.