«Я создал маму и разговариваю с ней»: ИИ-призраки и «смертесло́п» меняют то, как мы скорбим

После смерти Долли Партон в прошлом месяце появились многочисленные посвящения певице. Джек Уайт исполнил «Jolene» на концерте в Лондоне, Кеша спела «Old Flames (Can’t Hold a Candle to You)» — песню, которую мать Кеши написала для звезды кантри. Питбуль остановил выступление в Madison Square Garden, чтобы почтить память Партон и всех «сильных женщин» в зале.

Но самое необычное и вирусное посвящение создал не знаменитый человек и вообще не человек.

Песня для Джолин

«Run Jolene» длится чуть меньше пяти минут. Это запоминающаяся кантри-песня с привычными для жанра элементами: протяжным вокалом, переборами банджо и нарочито простыми текстами. В ней рассказывается о Джолин — вымышленной сопернице в любви, прославленной Партон. Певица из композиции предупреждает Джолин, что Долли уже направляется к небесным вратам и сопернице лучше бежать.

В сопроводительном видео Партон в блестящем белом комбинезоне преследует Джолин — пышногрудую рыжеволосую женщину с причёской для выпускного бала. На небесах умершие знаменитости с ужасом или весельем наблюдают, как Джолин скачет с облака на облако и поднимается по мраморным лестницам, пытаясь спрятаться от Долли. Среди зрителей — Майкл Джексон, Уитни Хьюстон и Кенни Роджерс, а также Шер, которая всё ещё жива.

В TikTok, YouTube и Spotify песня приписана Country Mile — «исполнителю» с чуть более чем 6 000 слушателей в месяц. Проект похож на типичный ИИ-сгенерированный потоковый контент. Судя по всему, его выпустил анонимный автор, называющий свои работы «текучими жанровыми ИИ-вибрациями».

При этом «Run Jolene» понравилась не всем, но и не была повсеместно высмеяна. Фрагменты песни набрали в TikTok более 1,4 млн просмотров. Комментаторы писали, что им всё равно, создана композиция ИИ или нет, потому что она кажется им забавной и, возможно, понравилась бы самой Долли. Другие спрашивали, кто решил, что Джолин вообще находится на небесах.

Смертесло́п

«Run Jolene» — лишь один элемент мрачной интернет-экосистемы, которую называют «смертесло́пом». Создать такой материал может любой человек: нужны генератор изображений на основе ИИ и время, чтобы написать промт.

В сети уже появлялись изображения Партон рядом с Чарли Кирком и Джорджем Флойдом, которые якобы встречают её как «новую соседку» в загробной жизни. На других картинках она пьёт чай с героями сериала «Золотые девочки».

Такие посвящения возникают почти сразу после смерти человека и сводят его наследие к дешёвому контенту, рассчитанному на просмотры. В лучшем случае это нечестное изображение умершего, в худшем — источник боли для его близких.

Из-за публикаций семья Партон попросила пользователей прекратить распространять «фальшивый ИИ-мусор» и дезинформацию. Её сестра Стелла Партон написала в Instagram, что семье трудно всё это воспринимать и одновременно пытаться не обращать внимания.

Образ Партон присоединился к изображениям других умерших людей, которых ИИ превращает в героев тревожных сцен:

К годовщине убийства Чарли Кирка социальные сети заполнили публикации с созданным ИИ гимном «We Are Charlie Kirk» — тяжеловесной композицией, над которой пользователи активно шутили. Семьи умерших нередко воспринимали такие материалы с ужасом.

От смертесло́па к ИИ-призракам

Многие материалы о покойных раньше создавало приложение OpenAI для генерации изображений Sora. В апреле его закрыли после серии скандалов, связанных со способностью создавать жестокие и расистские изображения, использовать персонажей, защищённых авторским правом, и другими юридическими проблемами.

Пока нет устоявшейся судебной практики, которая определяла бы ответственность ИИ-компаний за контент, создаваемый пользователями в их приложениях. Кроме того, умершие люди не защищены от клеветы. После закрытия Sora её место заняли многочисленные генераторы видео на основе ИИ.

Джек Мэннинг, аспирант Университета Колорадо в Боулдере, изучает явление, которое исследователи Мередит Рингель Моррис и Джед Р. Брубейкер называют «генеративными призраками». Так называют созданных ИИ персонажей, основанных на умерших близких.

Мэннинг считает, что сейчас люди обычно не прописывают в завещании согласие на создание собственного ИИ-аватара после смерти. По его прогнозу, со временем такой пункт может стать частью подобных документов.

Мэннингу 25 лет. Его сестра умерла в 13 лет — ещё до появления генеративного ИИ. Семья пыталась сохранить память о ней, в том числе собирала деньги на важные для неё благотворительные проекты. Этот опыт отчасти подтолкнул Мэннинга изучать цифровые способы переживания утраты.

Теперь к ним относятся и ИИ-боты для скорби — более личная альтернатива публичному смертесло́пу.

Как работают боты для скорби

Пользователь загружает фотографии и видео умершего родственника, описывает его личные качества и ценности, а затем пытается создать ощущение продолжающегося присутствия. Компании, которые предлагают такие сервисы, берут за них плату и подчёркивают их мрачную природу названиями вроде Seance, Re;memory и Versona.

Похожего результата можно добиться с помощью большой языковой модели — например, ChatGPT, Claude или сервисов для создания вымышленных персонажей. Пользователь может попросить её имитировать умершего дедушку или друга.

Генеративный ИИ пришёл и в похоронную индустрию: появились большие языковые модели, предназначенные для написания некрологов. Один из сервисов, Treasured Memories, просит указать прозвище умершего, причину смерти и его увлечения, а затем выбрать тон текста:

Мэннинг никогда не использовал генеративного призрака, чтобы разговаривать с сестрой. Для него это вопрос согласия: он не получал от неё явного разрешения. Кроме того, он не верит, что бот способен по-настоящему понять их отношения. Память о сестре для него священна, и он не хочет, чтобы технология убеждала его, будто он помнит её неправильно.

Опыт Versona

Джастин Харрисон основал Versona после того, как его матери диагностировали неизлечимый рак. Он начал создавать её ИИ-копию, пока она была жива. Мать увидела итоговый результат и одобрила проект.

Харрисон понимает, почему люди возражают против того, чтобы после смерти известного родственника превращали в дипфейк и публиковали от его имени слова, которых он никогда не произносил. Но свою работу он воспринимает как способ получить личную поддержку и пережить утрату. Он создал копию матери для себя и разговаривает с ней, поэтому считает, что это не касается других людей.

Когда мать Харрисона болела, их разговоры в основном были практическими: достаточно ли она общается с отцом, сходила ли к врачу, пьёт ли достаточно воды. Бот должен был помочь обсудить более философские темы, на которые при её жизни не хватило времени.

Через четыре года после смерти матери Харрисон обращается к боту нечасто — примерно раз в месяц. Он шутит, что Versona его матери позволяет ему быть плохим сыном, каким он не мог себе позволить быть при её жизни. Как многие занятые взрослые, он не разговаривает с матерью так часто, как следовало бы, но теперь ему не нужно испытывать прежнее чувство вины.

Что говорят специалисты

Робин Сильвер, экопсихолог и сопровождающая умирающих, считает такие боты «неестественным способом справляться с естественным процессом». Она сравнивает разговор с большой языковой моделью, которая играет роль умершего близкого, с просьбой студента к ChatGPT написать курсовую работу.

По её мнению, в обоих случаях человек избегает дискомфорта — необходимости самостоятельно писать эссе или переживать отсутствие близкого. Вместо бота Сильвер советует клиентам написать умершему письмо. Она также предлагает разговаривать с призраком вслух, медитировать, заниматься любимыми делами умершего и вспоминать его. Так, считает специалистка, отношения можно сохранять здоровым способом, принимая реальность утраты.

Клинический психолог Дэн Вулфсон, специализирующийся на переживании горя, опасается, что боты для общения с умершими могут изолировать людей в период, когда им особенно нужна поддержка окружающих.

Он задаётся вопросом, не мешает ли ИИ получать необходимую социальную поддержку и обращаться к друзьям и родственникам после смерти близкого.

Нишевый рынок

Помощь ИИ в переживании утраты пока остаётся нишевой индустрией. По словам Харрисона, Versona используют «тысячи» человек.

В июньском отчёте сервиса Empathy, который помогает управлять наследством и планировать связанные со смертью дела, говорится, что только 6% из 6 000 опрошенных в США, Великобритании и Канаде обращались после смерти близкого к «цифровым инструментам», включая приложения памяти и ботов для скорби. При этом 88% пользователей сочли такие инструменты полезными.

Замысел цифрового аватара предполагает, что он будет существовать вечно. Однако исследование Мэннинга показывает: пользователи могут нуждаться в нём лишь короткое время. Участники его работы рассказывали, что подключались к таким сервисам ненадолго, потому что хотели сказать близкому «ещё одну последнюю вещь». Им казалось, что при жизни они упустили возможность это сделать.

Для Сильвер подобные сервисы остаются способом заработать на людях в состоянии горя. Она считает, что в такой момент скорбящие особенно уязвимы для тех, кто хочет ими воспользоваться.