Meta отказывается удалять ИИ-видео с жестоким насилием над детьми в Facebook — в том числе ролик, где младенца жарят в духовке

В прошлом месяце издание сообщило, что в Facebook размещены многочисленные сгенерированные ИИ ролики, где детей избивают, поджигают, таскают за волосы и запирают в клетках.

Отвечая на вопросы журналистов, Meta то затягивала с реакцией, то объясняла, почему такие ролики якобы допустимы, то присылала расплывчатые заявления, не обещая ни взять ответственность, ни всерьёз бороться с проблемой.

Во время подготовки материала компания в конце концов удалила аккаунт, на который указали журналисты. Там публиковали особенно тяжёлые ролики: детей жестоко избивали и заставляли есть мусор, а в одном видео похититель запирал девочку в морозильной камере.

После публикации журналисты обнаружили, что аккаунт восстановили вместе с роликами. На вопрос, почему он снова доступен, представитель Meta ответил, что компания разбирается в ситуации, но не назвал сроков и пообещал сообщить новости. Позднее аккаунт вновь исчез, а представитель не ответил на дополнительные вопросы о его восстановлении.

На Facebook остаются тысячи похожих роликов, и новые появляются каждый день. Чтобы проверить, стала ли Meta быстрее реагировать на жалобы, журналисты вчера отправили компании 19 аккаунтов с подобными видео. На этот раз Meta не ответила вовсе: спустя более чем 24 часа все аккаунты всё ещё были доступны. На просьбу прокомментировать ситуацию компания также не отреагировала.

Журналисты решили не публиковать сами ролики. Среди них — видео, где младенец плачет в духовке, а его кожа покрывается волдырями от жара; ролик, в котором малыша сталкивают с лестницы; и видео, где девочку привязывают к дереву и бьют чугунной сковородой. В других роликах детей избивают ремнями, верёвками и бытовыми предметами или запирают в стиральных машинах и собачьих клетках.

В одном из видео девочка, запертая в свинарнике, просит дедушку дать ей поесть.

Ещё одна разновидность роликов в переданных Meta аккаунтах изображает темнокожих детей, которых избивают и унижают учителя в школьных классах. В одном видео учитель бьёт плачущего темнокожего ученика линейкой и спрашивает, почему тот не пойдёт в школу для темнокожих и зачем пытается попасть в такую школу.

Многие ролики заканчиваются тем, что взрослый вмешивается и помогает ребёнку. В прошлом материале Meta ссылалась на такие концовки, объясняя, почему видео не нужно удалять.

Если бы Meta всерьёз пыталась находить и удалять эти ролики, у неё были бы для этого значительные ресурсы. Компания вложила сотни миллиардов долларов в разработку того, что генеральный директор Марк Цукерберг называет «сверхинтеллектом». Однако, судя по происходящему, ресурсы ИИ не направлены на то, чтобы ограничивать распространение ужасного контента на платформах компании.

Meta могла бы выявлять такие ролики по текстовым описаниям, с которыми их загружают: в подписях часто подробно описаны мучительные сцены. Подпись к видео с младенцем в духовке рассказывает, что мать положила туда новорождённого с высокой температурой и ознобом, надеясь «вылечить простуду». Несмотря на крики ребёнка и тяжёлые ожоги, она якобы не хотела его вынимать, а когда отец попытался спасти малыша, стала кричать, крушить вещи и преграждать ему путь к духовке.

На платформах Meta есть и другие сгенерированные ИИ ролики, вызывающие ужас. В прошлом месяце Wired сообщило, что компания разрешила сотни рекламных объявлений с откровенно сексуальными изображениями реальных детей.

Meta допускает к своим платформам пользователей с 13 лет, но её действия создают впечатление, что компания фактически отказалась от модерации контента. Похоже, её раздражает главным образом то, что журналисты продолжают указывать на её причастность к распространению этих роликов.