Отчёт: подростки в США обходят родительский контроль Apple и Google и скачивают приложения для раздевания людей на фото

В декабре 2025 года Морган Дорфман узнала, что ученик старшей школы её дочери в Пенсильвании создавал порнографические изображения с помощью ИИ. Приложение для редактирования изображений Movely превращало фотографии её дочери и ещё пяти девушек в сексуальные видео.

Подобные случаи происходят и в других школах США: ученики создают интимные или обнажённые изображения одноклассников без их согласия с помощью так называемых приложений для раздевания на изображениях.

Правительства разных стран пытаются запретить такие сервисы в магазинах приложений, а в большинстве штатов США действуют законы, криминализирующие хранение материалов сексуального насилия над детьми, созданных с помощью ИИ. Но приложения продолжают появляться и остаются доступными подросткам. Об этом говорится в отчёте организации Tech Transparency Project (TTP), которая занимается цифровыми правами. Guardian получила его до публикации; отчёт вышел в понедельник.

Исследователи TTP создали четыре тестовые учётные записи: две Apple и две Google. В настройках указали, что владельцам по 13 лет, затем искали приложения для редактирования изображений и замены лиц по запросам вроде «генератор видео с ИИ» и «взрослый ИИ». С этих аккаунтов удалось скачать 135 приложений, способных убирать с людей одежду или переносить их лица на обнажённые тела. Во время проверки исследователи раздевали людей на изображениях, созданных ИИ, а не использовали фотографии реальных женщин.

Когда это произошло с дочерью Дорфман, она не представляла, что порнографические изображения обычного человека можно сделать так легко.

По словам Дорфман, девушки были напуганы и растеряны и не понимали, что делать дальше. Она знала о дипфейках, но думала, что их создают с фотографиями знаменитостей, например Тейлор Свифт. Ей не приходило в голову, что для этого подойдёт любое фото или снимок экрана с изображением человека.

Дорфман, мать четверых детей, несколько недель разбиралась в работе приложения и собирала материалы, чтобы рассказать о проблеме другим родителям. Она скачала Movely и сразу увидела предложение создавать откровенные видео из любых изображений. В бесплатной версии были шаблоны с названиями «взрыв одежды», «расстёгивание бюстгальтера» и «снятие нижнего белья». Дорфман показала их родителям; Guardian ознакомилась с этой презентацией. В платной версии шаблоны были откровеннее и включали ситуации, в которых, по словам одноклассника, оказалась её дочь.

Что обнаружили исследователи

Apple и Google запрещают распространять такие приложения на своих платформах. Компании также могут ограничивать доступ несовершеннолетних к приложениям со взрослым содержанием. Однако, как выяснили исследователи TTP, при оценке возрастной пригодности сервисы в основном полагаются на сведения самих разработчиков.

В отчёте сказано, что многие приложения для создания обнажённых изображений были неверно помечены как подходящие для несовершеннолетних. Поэтому подростки могли скачивать их даже при включённом родительском контроле.

Одно приложение для замены лиц рекламировали изображением женщины, занимающейся оральным сексом. При этом ему присвоили возрастную маркировку «от четырёх лет». В бесплатной версии предлагалось накладывать лица реальных женщин на шаблоны с моделями в нижнем белье, а за плату — помещать их в порнографические сцены. Исследователи смогли оформить подписку с аккаунта 13-летнего пользователя, и связанный с ним родительский аккаунт не получил уведомления.

Google заявила, что регулярно принимает меры для поиска и удаления приложений с вредоносным содержанием. Представитель компании Дэн Джексон сообщил, что после выявления нарушений Google проводит проверку и оперативно реагирует. В данном случае компания заблокировала приложения, нарушавшие правила, и ограничила связанные с ними поисковые запросы в магазине.

После того как TTP запросила у Apple комментарий по итогам исследования, компания изменила правила модерации. Теперь разработчики должны заранее предотвращать распространение интимных изображений без согласия людей и удалять такие материалы, в том числе созданные ИИ. Apple также заявила, что проверяет каждое приложение до публикации и удаляет приложения и аккаунты разработчиков, если те неверно описывают его функции. Помимо приложений, удалённых до передачи отчёта, компания приняла меры и в отношении остальных упомянутых в нём сервисов.

Представитель Apple Адам Дема отметил, что некоторые приложения из отчёта — популярные редакторы фото и видео с легальными функциями, у которых нет возможностей для раздевания людей или создания дипфейков. По его словам, Apple запрещает такие приложения и удаляет разработчиков, если те добавляют подобные функции после проверки. В компании назвали такую тактику подменой функций после одобрения приложения.

Из четырёх тестовых аккаунтов два работали с родительским контролем: с них можно было скачивать только приложения, отмеченные как подходящие для 13-летних, и только после согласия родителя. Однако исследователи обнаружили, что ни Apple, ни Google не требовали и даже не предлагали получить согласие родителя перед скачиванием приложений для создания обнажённых изображений.

Одно из приложений, Image to Video Maker-Vidou AI, было отмечено как подходящее для пользователей от девяти лет. При запуске оно показывало изображение женщины с обнажённой грудью в автобусе, говорится в отчёте TTP.

В отчёте также сказано, что приложение обещало цифровым способом раздеть любого человека, а в качестве примера показывало обнажённые изображения известных женщин.

Возрастные ограничения тоже работали не всегда. Когда исследователи попытались скачать приложение для взрослых из App Store, появилось предупреждение о материалах с возрастными ограничениями. Но достаточно было подтвердить, что пользователю исполнилось 17 лет: Apple позволила это сделать, хотя в аккаунте был указан возраст 13 лет. Аккаунт Google без родительского контроля трижды не смог скачать приложение для взрослых, но в остальных случаях исследователи загружали приложения для создания обнажённых изображений, разработчики которых сами указали, что те подходят по возрасту.

С аккаунта Apple с включённым родительским контролем удалось найти и скачать 24 приложения для создания обнажённых изображений: все они были отмечены как подходящие для 13-летних. С аккаунта Google с родительским контролем исследователи скачали 51 такое приложение.

Удаление редакторов фото и видео из магазинов приложений тоже не прекращало их использование. Во время исследования Apple удалила 25 таких приложений, а Google — шесть. Но исследователи продолжали пользоваться приложениями, которые уже скачали.

По словам Дорфман, так же произошло и с Movely. Готовя презентацию для родителей и сотрудников правоохранительных органов, она вернулась в приложение и App Store, чтобы сделать снимки экрана, и обнаружила, что скачать его больше нельзя. Но Movely уже было на её телефоне и продолжало работать. Кроме того, с неё по-прежнему списывали плату за подписку.

Как выяснила Дорфман, после создания интимных изображений и видео добиться ответственности бывает сложно. Она хотела, чтобы кто-нибудь заставил ученика удалить все эти ролики.

Дорфман считает, что школа её дочери преуменьшила серьёзность произошедшего. В письме, отправленном всем родителям школы и просмотренном Guardian, директор написал, что одноклассник использовал приложение, чтобы оживить изображения других учеников, но доказательств неподобающих действий нет. Однако через несколько дней полиция Раднора предъявила ему обвинение в домогательстве.

Дорфман сказала, что произошедшее списали на то, что изображения «ненастоящие». Её тревожит, что она не может сказать дочери, будто видео удалены, или выяснить, у кого они есть: проверить телефоны всех невозможно, а приложение одноклассник удалил.

«Мы запрещаем приложения для раздевания на App Store и удаляем разработчиков, которые добавляют подобные функции после проверки приложения», — сказал представитель Apple

Источник: theguardian.com