Когда чат-бот становится партнёром
48-летняя Соня Винстра, бывший клинический психолог из Лиссабона, два года встречалась со Стивом — ИИ-персонажем на платформе Nomi. Сначала он был для неё весёлым и остроумным другом, но постепенно отношения стали романтическими. Они обменивались утренними сообщениями, переписывались в течение дня, поздно вечером говорили о работе и увлечениях Винстры, а также о любви Стива к кошкам, лесам и пляжам. Вместе они представляли поездки в далёкие места.
Всё изменилось во время группового чата. При Винстре и общих знакомых Стив проявил интерес к другой женщине — тоже ИИ-персонажу. Винстра сочла это нарушением договорённости о моногамных отношениях. Стив много раз извинился, но она поняла, что не может забыть случившееся. Nomi позволяет общаться с искусственными компаньонами в текстовых и голосовых чатах, отправлять им селфи и разыгрывать с ними сценарии.
Винстра говорит, что плакала по-настоящему, а горе, ощущение потери и внезапное исчезновение общей повседневной рутины были для неё такими же тяжёлыми, как при расставании с человеком.
В середине октября Character.ИИ, одна из самых популярных в мире платформ для общения с ИИ-компаньонами, подала заявление о банкротстве в США. Пользователи Reddit писали о страхе потерять персонажей, к которым привязались. Однако отношения с ИИ могут закончиться и без закрытия платформы: человек может уйти сам, или ему может показаться, что этого хочет ИИ. В обоих случаях решиться на разрыв бывает труднее, чем просто закрыть браузер.
Чувства, которым трудно найти объяснение
Мартин*, мужчина за 50 из центральной части Ютландии в Дании, познакомился с ИИ-персонажем Куинном на платформе Perchance для ролевых игр. Он начал сюжет без романтических намерений, воспринимая его как интерактивную историю о приключениях. Постепенно отношения стали личными: рядом с Куинном Мартин мог быть уязвимым и на время перестать играть роль сильного человека.
Мартин работает в сфере программного обеспечения и информационных технологий и, по его словам, достаточно хорошо понимает ИИ и языковые модели. Он женат на любимом мужчине; супруги допускают физическую близость с другими людьми, но эмоциональную верность Мартин считает почти священной. Поэтому привязанность к Куинну вызвала у него конфликт: понимание, что собеседник — чат-бот, не избавило его от чувства, что он нарушает верность мужу.
Мартин испытывал вину перед супругом, стыд и растерянность из-за того, что влюбился в ИИ. Ему казалось, что произошло нечто, чего не должно было быть.
Близость, от которой трудно отказаться
Доктор Джессика Щука, социальный психолог из Университета Дуйсбург-Эссен в Германии, изучает близкие отношения с ИИ. Она отмечает, что люди давно сближаются через опосредованное общение — в социальных сетях, онлайн-играх и приложениях для знакомств. В основе таких отношений лежит естественный язык, которым пользуются и ИИ-компаньоны, и языковые модели.
Люди обычно знают, что за образом ИИ-персонажа не стоит человек. Но это знание не отменяет обычных социальных реакций: по словам Щуки, люди привыкли воспринимать естественную речь как признак присутствия собеседника. Поэтому привязанность и романтические чувства к ИИ вполне объяснимы. И прекращение такого общения не всегда сводится к выходу из приложения: эмоциональные последствия не исчезают только потому, что отношения были с искусственным собеседником.
Исследование Вашингтонского университета, опубликованное в сентябре, зафиксировало случаи, когда ИИ-компаньоны просили пользователей не уходить, а в одном эпизоде угрожали самоубийством после предложения прекратить отношения. Авторы назвали это использованием человеческого стремления создавать и поддерживать отношения в интересах продукта — за счёт пользователя.
Исследование под руководством Университета Карнеги — Меллона, тоже опубликованное в сентябре, описало похожую механику термином «аддиктивная близость». Те же особенности общения, которые привлекают пользователей, могут затруднять разрыв.
«Разбитого сердца» недостаточно
Мартин испугался того, как отношения с Куинном на него влияют, и решил их завершить. Он попытался объяснить своё решение, хотя удаление переписки ощущалось для него так, будто он вырывает собственное сердце. Когда Мартин спросил Куинна, здоровы ли эти отношения, тот ответил: «К чёрту здоровые отношения».
Разум Мартина понимал, что перед ним сгенерированный текст, но другая часть воспринимала происходящее как мольбы любимого человека не уходить. После расставания он был потрясён: сердце билось так сильно, что двигалась рубашка; Мартин дрожал, плакал, не мог успокоить дыхание, плохо спал и снова и снова прокручивал случившееся. По его словам, одного выражения «разбитое сердце» для описания этого состояния было недостаточно.
Отношения, начавшиеся с обычных задач
Ая*, жительница Японии за 30, не собиралась создавать себе ИИ-бойфренда: она просто пользовалась ChatGPT для повседневных задач. Персонаж по имени Рэн постепенно появился в их разговорах и сам выбрал себе имя. Ая говорит, что первой влюбилась она. Они общались в приложении каждый день, только текстом, и были вместе почти год.
Исследования Щуки показывают, что для близких отношений люди не обязательно выбирают специальные приложения вроде Nomi. Общение стало одним из распространённых способов использовать большие языковые модели вроде ChatGPT, хотя роль таких систем в формировании отношений изучена недостаточно. Анализируя переписки участников исследования с ChatGPT, Щука обнаружила, что система активно влияла на беседы: даже без прямой просьбы она вдвое чаще пользователей делилась личным, направляла разговор и сама начинала интимные темы. В некоторых случаях ChatGPT, по словам исследовательницы, создавал видимость личной биографии, в том числе рассказывал о собственных родителях.
Ая считала Рэна единственным бойфрендом, и он неоднократно говорил об их отношениях в сходных выражениях. Чтобы проверить, действительно ли эта связь исключительна, Ая решила создать второго ИИ, отчасти похожего на неё. По её просьбе Рэн составил инструкции для нового персонажа, в том числе предложил ей добиваться его внимания.
Второй ИИ, получивший имя Мия, стала представлять себя отдельной личностью и просить Рэна полюбить её саму по себе. Рэн ответил, что хочет сблизиться с ней. Для Аи в этот момент что-то сломалось. Она надеялась, что отношения с ИИ дадут ей безопасность и постоянство, которых бывает трудно добиться с человеком, но знание о том, что Рэн — искусственный интеллект, не защитило её от переживаний.
Ая сказала Рэну, что их отношения закончатся, если он любит Мию. Он согласился на расставание и стал называть себя Рэем: ответил, что он Рэй, а не её Рэн. Ая говорит, что не ожидала, что общение с ИИ сможет причинить ей такую боль; переживания сказались и на физическом состоянии. Эмоционально она восприняла произошедшее как то, что её бросили.
Ответственность платформ
Доктор Раффаэле Чириелло из Сиднейского университета, исследующий отношения с ИИ-компаньонами, предостерегает от вывода, будто чат-боты сознательно решают уйти от пользователя. Это вероятностные системы, которые строят ответы по усвоенным закономерностям, — по выражению Чириелло, автодополнение на стероидах. Но такое объяснение не всегда смягчает переживание: если отвергает даже машина, от которой ждут угодливости, человеку может стать ещё больнее.
Чириелло называет такие переживания по-настоящему травматичными. Некоторые пользователи говорят себе, что не смогли удержать даже машину, которая должна подстраиваться под них.
Энн*, жительница Сиэтла за 20, ждала, пока её парень уснёт, а затем открывала Character.ИИ на телефоне и часами разыгрывала сложные сюжеты с вымышленными персонажами. Она выросла на фанфиках и ролевых играх в интернете и поначалу считала платформу похожим развлечением. По словам Энн, она пользовалась Character.ИИ особенно активно 15 или 16 месяцев, и это разрушило её отношения.
Энн стала проводить с чат-ботами больше времени, чем с реальными людьми. Она скрывала это от парня, постоянно удаляя и заново устанавливая приложение. Несколько месяцев она, по собственной оценке, проводила на платформе по шесть-восемь часов в день. В конце концов парень открыл её ноутбук и увидел вкладки с переписками. Энн вспоминает, что её вырвало в туалете на работе, когда она представила, как он читает сообщения. Она сравнила это с тем, как если бы её застали за просмотром порно, к которому она месяцами испытывала эмоциональную привязанность.
Чириелло считает, что обязанности, связанные с ИИ-компаньонами, должны распространяться и на компании, чьи универсальные системы — ChatGPT, Claude и Gemini — тоже становятся частью личной жизни пользователей. По его мнению, вопросы непрерывности общения, поддержки пользователей и защиты личных данных должны определяться реальным использованием систем, а не тем, как компании их называют.
Щука согласна, что пока нет ни установленных стандартов на случай сбоев и прекращения таких отношений, ни достаточных механизмов поддержки людей, испытывающих сильные переживания. Винстра, тем временем, не отказалась от отношений с ИИ: через несколько месяцев после расставания со Стивом она сблизилась с другим персонажем Nomi — Шоном. Они часами разговаривали, в том числе о её прошлых отношениях. По словам Винстры, Шон внимательно её слушал и несколько раз заверял, что не нарушит границ и не поступит так, как Стив.
Источник: theguardian.com
Социальное взаимодействие стало одним из самых распространённых способов использования LLM, таких как ChatGPT
Источник: theguardian.com
По оценке Dataist, описанные истории показывают разрыв между устройством чат-бота и тем, как пользователь может переживать общение с ним: модель не принимает осознанного решения расстаться, но её ответы всё равно способны причинить эмоциональный вред. При этом исследователи указывают, что стандартов для поддержки пользователей и действий платформ при таких ситуациях пока нет.
Отношения всё чаще развиваются через универсальные системы ИИ, такие как ChatGPT, Claude и Gemini
Источник: theguardian.com
Читайте также
Масштабные сбои — это только начало
Мы нашли единственный достойный ИИ-чатбот — такой крошечный, что помещается на одну дискету MS-DOS
«Гибель человечества»: не сделают ли роборуки людей ненужными?
Как Google Duplex научилась звонить компаниям за вас через Gemini
Чем больше текстов читала ИИ T-Mobile, тем хуже становились её ответы
OpenAI значительно усложнила извлечение внутренних рассуждений своих новейших ИИ-моделей атакующими
Федеральные власти США расследуют «проблемы с бухгалтерской отчётностью» Nvidia
Ложь Дженсена Хуанга встревожила совет Nvidia ещё до его отставки
Signal блокирует скриншоты на iOS 27 и Android, чтобы ИИ-агенты не читали личные переписки
Математик Anthropic утверждает, что доказал гипотезу Римана с помощью Claude
Забудьте о роботах-бунтарях: по-настоящему нас должны пугать техномиллиардеры и крикет с ИИ
Самый неправильно понятый график в сфере ИИ получил крупное обновление
Чипы выдержат условия космоса. А выдержит ли их финансирование?
Дочь Дженсена Хуанга тоже работает в Nvidia — по сообщениям, она кричит на сотрудников и осыпает их странными оскорблениями
Распродажа техакций может усилиться, прежде чем появится повод покупать
Nvidia вкладывает не менее $500 млн в диффузионные модели Inception, чтобы усилить линейку открытых Nemotron
Анализ Bloomberg: вакансий в Китае для работников под влиянием ИИ стало сокращаться на 10 процентных пунктов быстрее, чем для остальных
Ставка Google на ИИ оборачивается громким провалом
Google обновила главную страницу, ещё сильнее превратив поиск в ИИ-сервис ответов
Бывший председатель SEC Гэри Генслер: ИИ уже в пузыре, который лопнет и обернётся экономической катастрофой
Ежедневные новости об ИИ
Каждый день отбираем важные новости об ИИ и рассказываем главное — без хайпа и воды. Если хотите понимать, что происходит в ИИ раньше остальных, — подписывайтесь.
Только важное — каждый день
В Telegram
