Мошенники с рецептами используют сгенерированную ИИ Эмили Блант как марионетку, чтобы продвигать свой мусорный контент

В отчёте стартапа Decrypt Ads, который отслеживает цепочки поставок интернет-рекламы, описаны более 2 000 сайтов, похожих на фермы ИИ-контента. Они маскируются под блоги настоящих поваров и домашних кулинаров, публикуют выдуманные рецепты в поисковиках вроде Google и соцсетях вроде Pinterest, а затем зарабатывают на рекламе. В этой схеме, как отмечает отчёт, часто участвуют сомнительные рекламные компании из России и Китая.

В опубликованном сегодня отчёте говорится, что некоторые издания в отдельных темах открыто вводят читателей в заблуждение насчёт владельцев и авторов: используют сгенерированные ИИ фотографии и придумывают биографии. Одними из самых быстрорастущих источников ИИ-мусора в интернете стали сайты с рецептами.

Эксперт по безопасности и исследователь Decrypt Ads Зак Эдвардс рассказал Futurism, что сначала обнаружил около 400 подозрительных сайтов. Они, по его оценке, размещали сгенерированные ИИ рецепты от имени вымышленных поваров. Затем с помощью «технических отпечатков» он нашёл ещё сотни сайтов, связанных с вручную обнаруженными доменами. В итоге набралось около 2 100 доменов, многие из которых, похоже, принадлежат одним и тем же операторам.

Эдвардс пояснил, что исследователи с самого начала предполагали: владельцы таких сетей будут скрывать свои сайты, поскольку не хотят, чтобы люди знали, какими ресурсами они управляют.

В отчёте также отмечается, что сайты с ИИ-рецептами активно продвигаются в соцсетях. По словам Эдвардса, поддельные бренды особенно настойчиво используют Pinterest, Twitter и Facebook. Он добавил, что подобные авторы пытаются привлекать органический трафик везде, где есть визуальный контент.

Эмили Блант под видом вымышленного повара

Среди самых активных сайтов, попавших в отчёт, — AddCakes, посвящённый выпечке. Он утверждает, что его ведёт пекарь по имени Елена. На сайте она представлена как занятая мама, которая хотела через выпечку сохранить связь со своими корнями, но столкнулась со сложными рецептами тортов и давлением из-за необходимости сделать их идеальными.

При этом Елена явно изображена как сгенерированная ИИ версия британской актрисы Эмили Блант. Она известна, в частности, по фильмам «Дьявол носит Prada» 2006 года и «Тихое место» 2018 года.

Похоже, AddCakes рассчитывает, что читатели не узнают актрису на изменённых ИИ изображениях, или надеется привлечь их знакомым лицом. На сайте опубликованы фотографии, где Елена готовит на кухне и сидит за обеденным столом в окружении вымышленной семьи, также созданной ИИ. Согласно данным о местоположении в X, ранее известном как Twitter, оператор сайта находится в Марокко. Эмили Блант там не живёт, а её представители не ответили на просьбу о комментарии.

Риск для приватности

Эдвардс призвал не доверять рецептам, опубликованным от имени ИИ-версии Эмили Блант. Сайты, работающие с рекламными партнёрами из Китая и России, могут создавать риски для приватности: авторитарные государства могут быть заинтересованы в сборе ценных данных о просмотрах.

По словам Эдвардса, отчёт посвящён издателям, которые вводят аудиторию в заблуждение: читатели могут пострадать, а рекламодатели — потратить деньги впустую. Кроме того, если открыть такой сайт с включённой рекламой, данные пользователя могут попасть в авторитарные страны.

Таким образом, ИИ-мусор не только засоряет интернет, но и может создавать угрозы безопасности. В его основе, по словам исследователя, лежит обман.

Эдвардс отметил, что на страницах «О нас» многие сайты публикуют выдуманные истории: например, рассказывают о шеф-поваре, который получил звезду Michelin и работал в престижном отеле. Эти биографии создают впечатление, будто эксперт сам написал и проверил рецепты. Однако, по оценке Эдвардса, вероятно, ни один из рецептов не готовили реальные владельцы или авторы сайтов. Именно это он считает самым тревожным.

Исследователь добавил, что многие сайты, вероятно, заимствуют идеи у настоящих блогеров и авторов, которые тратят время и силы на проверку рецептов, съёмку и публикацию. При этом сами операторы не готовят блюда, о которых пишут, и иногда размещают десятки рецептов в день. По словам Эдвардса, публикация идёт автоматически, всё это — обман, а владельцев таких сайтов нужно привлекать к ответственности, поскольку их не волнует аудитория.

Больше о поддельных авторах и интернете: Google обновила правила, чтобы наказывать сайты с фальшивыми подписями авторов и портретами, созданными ИИ.