Нью-Йорк изъял дюжину сайтов с дипфейками знаменитостей

Что изъяли

В понедельник окружная прокуратура Манхэттена сообщила об изъятии 12 доменов. По данным ведомства, их использовали для незаконного распространения, публикации и продажи дипфейков со знаменитостями.

Около 1 200 человек, подавляющее большинство из которых женщины, были показаны на сайтах в сексуальных изображениях и видео без своего согласия. Среди пострадавших — авторы в соцсетях, актёры, активисты, спортсмены, музыканты и политики.

Прокурор Манхэттена Алвин Брэгг заявил, что такие нарушения частной жизни преследуют жертв в профессиональной и личной жизни и наносят серьёзный ущерб их эмоциональному и психическому состоянию. Он призвал возможных пострадавших обращаться в отдел прокуратуры по борьбе с киберпреступлениями. Расследование того, кто управлял сайтами и загружал на них ролики, продолжается.

Как работали площадки

Изъятие провели в рамках уголовно-процессуального законодательства Нью-Йорка. Это одна из наиболее масштабных операций против сайтов с откровенными дипфейками с момента появления технологии в конце 2017 года.

По мере развития ИИ возникла отдельная индустрия сайтов, приложений и ботов. Они предназначены для того, чтобы «раздевать» фотографии женщин или создавать с их участием откровенные сексуальные ролики. Такие изображения и видео становятся всё реалистичнее, а их создание занимает несколько секунд.

Дипфейки широко используют и против неизвестных женщин и девочек — нередко материалы распространяют в закрытых группах соцсетей. Однако знаменитости также рассказывали о последствиях публикации таких изображений и о том, как сложно добиться их удаления.

Законы против дипфейков в США появляются медленно, но закон Take It Down Act расширяет возможности для удаления подобных материалов. В частности, он позволяет правоохранительным органам закрывать и изымать сайты.

Прокуратура Манхэттена не назвала изъятые площадки. Однако перед заявлением Брэгга WIRED самостоятельно заметил, что на главных страницах нескольких сайтов появились уведомления об изъятии — THIS DOMAIN HAS BEEN SEIZED («ДОМЕН ИЗЪЯТ»). Сейчас эти страницы сообщают, что были переданы под контроль властей после ордера на изъятие, выданного Верховным судом штата Нью-Йорк.

Реакция исследователей

Леони Омиг, исследовательница Institute for Strategic Dialogue (ISD), изучающая экосистему создания дипфейков, назвала операцию значимым успехом в борьбе с синтетическими интимными материалами без согласия (NCII).

По её словам, применение законов штатов показывает, что с вредоносным контентом можно бороться. Изъятые сайты, судя по всему, не открываются даже при попытке зайти на них из других регионов через VPN. Омиг считает, что это подтверждает возможность скоординированных мер даже при разрозненном регулировании в разных юрисдикциях.

Что размещали на сайтах

Площадки, вероятно, просмотрели миллионы раз. В их названиях часто встречались фразы вроде «сексуальные знаменитости» и обещания показать «настоящие дипфейки». На сайтах размещали поддельные видео с некоторыми из самых известных людей в мире. Один из них прямо сообщал, что для дипфейков используются лица разных актрис.

Ролики могли длиться несколько минут и содержать полностью откровенные сексуальные сцены. Обычно лица знаменитостей или других публичных людей вставляли в уже существующие порнографические видео.

Архивные копии сайтов показывают, что некоторые ролики набирали десятки тысяч просмотров. Один из сайтов утверждал, что работает с 2018 года.

Бенджамин Шульц, ведущий исследователь некоммерческого проекта American Sunlight Project, рассказал, что большинство роликов выглядели как обычные порнографические фильмы, в которых лица первоначальных актёров заменили лицами жертв.

Шульц документирует случаи злоупотребления дипфейками против политиков и во время этой работы сталкивался с некоторыми из изъятых сайтов. По его словам, многие видео, судя по всему, были перепубликациями материалов, изначально размещённых на MrDeepFakes — известной платформе с дипфейками, закрытой после того, как журналисты раскрыли личности её создателей.

По меньшей мере на двух изъятых сайтах для избранных политиков создавали отдельные страницы с их именами и должностями, а также сеткой роликов с изменёнными изображениями.

Шульц сообщил, что в ходе недавнего исследования обнаружил упоминания или изображения 56 европейских политиков. Среди них были 16 политиков из США и два политика из Великобритании.

Что ещё нужно перекрыть

Омиг считает изъятие сайтов обнадёживающим шагом, но отмечает, что серьёзный вред продолжают наносить и другие части индустрии дипфейков.

Для эффективного вмешательства, по её словам, нужно одновременно воздействовать на несколько участков экосистемы: