Омерзительные охотники за просмотрами с помощью ИИ подделывают записи реальных арестов, заставляя полицейских лапать женщин

Как устроены ролики

Как выяснила компания Copyleaks, ИИ-фейки сделаны на основе настоящих записей задержаний. Похоже, часть исходных видео снимали для реалити-шоу, например для программы «D.U.I.» на телеканале TLC. Их изменили так, чтобы полицейские целовали задержанных и прикасались к ним сексуального характера.

На записях задержанные нередко в наручниках и находятся рядом с полицейскими машинами, внутри них или прислонены к ним. Поддельный эпизод с сексуальными действиями вставляют в начало более длинного видео ареста. По всей видимости, этот приём должен зацепить пользователей, листающих ленту, и заставить их досмотреть запись до конца.

Сооснователь и генеральный директор Copyleaks Алон Ямин заявил, что это тревожный пример того, как ИИ используют для создания фейковых версий реальных материалов ради внимания и вовлечённости в соцсетях. По его словам, на видео показаны реальные полицейские и гражданские, которым приписывают действия, которых не было. Ямин добавил, что происходящее вызывает беспокойство за всех людей, попавших в эти ролики и связанных с ними.

В некоторых видео женщины и мужчины, которых целуют и лапают, улыбаются. Из-за этого может показаться, будто они согласны на сексуальные действия со стороны полицейских, которые в этот момент задерживают их.

Часть роликов помечена как созданная с помощью ИИ. К ним также добавлена оговорка, что видео предназначено «только для развлечения и не несёт вредных последствий». Но такая формулировка не меняет сути: сексуализированные фейки без согласия людей используют для изменения материалов с их участием, и это само по себе причиняет вред.

Реакция TikTok

После обращения журналистов TikTok удалил материалы, на которые они указали, и сослался на правила платформы о чёткой маркировке реалистичного ИИ-контента.