Kalshi признала: ИИ сделал случайного парня ведущим рекламы и сменил ему расу

На фоне растущей критики дешёвого контента, созданного ИИ, компании продолжают использовать эту технологию в рекламе, чтобы сократить расходы.

Некоторые идут дальше и создают дипфейки на основе видео реальных авторов, чтобы продвигать свои продукты.

Платформа Kalshi, связанная с азартными ставками и торговлей инсайдерской информацией, оказалась в центре скандала после того, как техноблогер Эллиот Чой обнаружил свою запись в рекламе, которую ему показали на YouTube. В процессе его превратили из азиатско-американского автора «в белого парня», которого в реальности не существует.

Компания не только без разрешения использовала пользовательское видео, но и изменила расу человека в кадре, заставив получившегося персонажа рекламировать продукт. Чой обнаружил это всего через несколько часов после того, как Стэнфордский университет обвинили в использовании ИИ для замены студента на фотографии несуществующей чернокожей женщиной.

При этом сам Чой размещал рекламу ассистента Claude компании Anthropic.

Что произошло с видео

Оригинальная запись, которую Kalshi использовала без разрешения, рассказывала о переезде Чоя в новую квартиру в Нью-Йорке. Автор опубликовал её в сентябре прошлого года.

Корреспондент NPR Бобби Аллин подтвердил, что спорная реклама Kalshi действительно существовала. Представитель компании сообщил ему, что ролик был старым и Kalshi больше не использует рекламу, созданную ИИ. Также в компании заявили, что пересматривают отношения с агентством, подготовившим видео.

Остаются вопросы:

Дипфейки в рекламе

Аллин впервые заметил похожую тенденцию в июле прошлого года. В TikTok появлялись ролики, копировавшие пользовательские видео с помощью технологии дипфейков, а затем набравшие десятки миллионов просмотров.

В большинстве случаев такие записи, судя по всему, делали мошенники, а не крупные компании, которые хотели получить рекламный материал. Эксперт по цифровой криминалистике из Калифорнийского университета Хани Фарид тогда объяснял Аллину, что современные инструменты ИИ позволяют создавать такие ролики очень легко, поэтому они могут незаметно проходить через систему модерации контента.

Kalshi экспериментирует с генеративным ИИ в маркетинге уже не первый год. В прошлом компания показала рекламу финала НБА, созданную ИИ, и утверждала, что её производство обошлось всего в $2 000. Насколько эти расходы себя оправдали, оставалось спорным — по крайней мере, судя по результату.

Затем критика контента, созданного ИИ, резко усилилась, и Kalshi начала демонстративно двигаться в противоположную сторону. Компания наняла известных людей, среди которых актёр Тимоти Шаламе и операторы — лауреаты премии «Оскар».

Руководитель направления роста Kalshi Китон Инглис ранее в этом месяце рассказал Ad Age, что почти каждый бренд использовал ИИ, поэтому он перевёл компанию от позиции лидера в применении этой технологии к максимально человеческому подходу.

На фоне того, что созданная ИИ реклама Kalshi с изменённой расой героя показывается ничего не подозревающим пользователям в социальных сетях, это обещание выглядит неубедительно.