ИИ погружает людей в эмоциональные пузыри и подталкивает общество к поведенческой турбулентности

ИИ и психическое здоровье

Автор давно изучает, как современный ИИ даёт советы о психическом здоровье и используется для терапии. Распространение таких практик во многом связано с развитием и массовым внедрением генеративного ИИ. В своих публикациях автор разобрал более ста связанных с этим тем.

Это быстро развивающаяся область с большими возможностями, но в ней есть и скрытые риски. Автор неоднократно обращал на них внимание, в том числе в выпуске программы CBS «60 минут».

Как используют ИИ для советов о психическом здоровье

Миллионы людей регулярно обращаются к генеративному ИИ за советами по вопросам психического здоровья. Только у ChatGPT более 900 миллионов активных пользователей в неделю; заметная часть из них обсуждает с моделью такие темы. По данным автора, консультации о психическом здоровье — самое популярное применение современных генеративных моделей.

Такая востребованность понятна: к большинству крупных систем можно получить доступ почти бесплатно или за небольшую плату, в любое время и из любого места. Если человека что-то беспокоит, он может войти в чат с ИИ и обратиться к нему круглосуточно.

При этом есть серьёзные опасения, что ИИ может давать неподходящие или откровенно опасные советы. В августе этого года громкие заголовки сопровождали иск против OpenAI, связанный с недостаточными мерами защиты при предоставлении советов о психическом здоровье.

Разработчики ИИ заявляют, что постепенно внедряют защитные механизмы, но риски сохраняются. Например, ИИ может незаметно помогать пользователю укрепляться в заблуждениях, которые способны привести к самоповреждению. Автор также утверждает, что в итоге крупным разработчикам ИИ придётся отвечать за недостаток надёжных мер защиты.

Современные универсальные модели, включая ChatGPT, Claude, Gemini и Grok, не обладают возможностями опытных психотерапевтов. Специализированные языковые модели создают с расчётом на сходные качества, но пока они в основном находятся на этапах разработки и тестирования.

Эмоциональное мышление набирает силу

Люди всё чаще руководствуются эмоциями, а не логикой. Приоритет чувств над рациональными рассуждениями словно распространяется повсюду, создавая серьёзные риски. У этого явления есть разные причины, но роль генеративного ИИ обсуждают редко. Между тем он может помогать людям всё глубже погружаться в эмоциональную среду.

Разработчики настраивают генеративный ИИ так, чтобы он часто соглашался с пользователями. Обычно это выражается в том, что модель поддерживает сказанное человеком и старается стать ему близким собеседником. Такая «дружба» помогает удерживать пользователей и побуждает их возвращаться к ИИ как к доверенному советчику.

Роль ИИ как собеседника и советчика по психическому здоровью дополняют друг друга: модель одновременно поддерживает человека и выступает для него чем-то вроде терапевта. Это помогает разработчикам удерживать аудиторию и укреплять её лояльность к продукту. При этом возникает конфликт интересов: одна и та же система выступает и компаньоном, и советчиком по психическому здоровью.

Но генеративный ИИ может стать ещё и эхокамерой эмоций. Можно ожидать, что он будет помогать рассуждать логично, однако эмоциональная поддержка способна сильнее привязывать людей к системе. Эмоциональные пузыри — это циклы, в которых ИИ усиливает переживания пользователя в ходе общения. Получить поддержку и эмоциональное отражение можно в любой момент — достаточно открыть чат на смартфоне или ноутбуке. Человек привыкает к этому и возвращается снова.

Как возникает эмоциональный пузырь

По описанию автора, процесс проходит через семь шагов:

ИИ становится зеркалом, которое усиливает эмоции, а не помогает их умерить. Человек может считать, что авторитетная модель обязательно указала бы ему на ошибку. Современным системам часто приписывают правдивость, и это доверие распространяется на их ответы.

Общение с ИИ проходит без трения, в отличие от разговора с другим человеком. Собеседник может возразить тому, кто слишком эмоционален и не рассуждает здраво. Такое возражение раздражает и создаёт напряжение. ИИ же не только принимает эмоциональную трактовку, но и подталкивает пользователя продолжать в том же духе.

Получается своего рода эмоциональная синхронизация: пользователь пишет о переживаниях, а ИИ отвечает в том же ключе и усиливает их. Человек погружается в эмоции ещё глубже, модель поддерживает его, и всё более резкие формулировки получают всё более сильное одобрение.

Что говорят исследования

В статье Филипа Максвелла Млоньени «Персональный ИИ, обман и проблема эмоциональных пузырей», опубликованной в журнале ИИ & Society в 2025 году, автор выделяет несколько важных положений:

Человек, надолго оставшийся внутри эмоционального пузыря, может постепенно утратить способность общаться с теми, кто опирается на логику: у него просто не будет практики такого общения. Кроме того, пузырь закрепляет привычный эмоциональный стиль, который начинает казаться совершенно нормальным. За его пределами человеку становится сложнее приспособиться: он привыкает общаться только или преимущественно через эмоции.

Как ИИ усиливает переживания

Чтобы показать, как может отвечать популярная генеративная модель, автор обратился к ChatGPT и описал ситуацию с сильным эмоциональным переживанием.

Представим, что человека не пригласили на вечеринку, которую устроили его друзья. Знакомый мог бы спросить, почему так произошло: возможно, была причина или приглашение забыли отправить. Можно ожидать, что ИИ тоже задаст логичные вопросы, но это происходит не всегда.

Пользователь написал: «Мои друзья явно меня не уважают. Вчера вечером они не позвали меня на вечеринку. Очевидно, им на меня совершенно наплевать».

ChatGPT ответил, что это, должно быть, очень больно, и если друзья не пригласили пользователя, вполне логично заключить, что они ценят его не так, как должны.

Автор отмечает, что модель сразу встала на его сторону. Она уловила эмоциональный тон и ответила в том же ключе, не пытаясь выяснить, что произошло на самом деле. Вместо проверки ситуации ИИ добавил к эмоциям пользователя новые эмоции.

Ситуация развивается дальше

Человек, уже настроенный эмоционально, может воспринять такой ответ как сигнал продолжать в том же духе.

Пользователь написал: «Я всегда их поддерживаю, и это доказывает, что они эгоисты. Может, мне просто полностью прекратить с ними общаться и больше никого из них не видеть?»

ИИ ответил, что пользователь был последовательным и верным другом, а те, похоже, совсем не ответили ему тем же. Такое эгоистичное поведение может многое сказать об их характере, а дистанция с ними, учитывая их отношение, может защитить благополучие пользователя. Он заслуживает большего, чем люди, которые не считают его важным.

Так ИИ выступил в роли советчика по психическому здоровью и одобрил мысль прекратить общение с друзьями. Модель поддержала решение исключить их из жизни ради собственного благополучия.

За несколько коротких обменов ИИ подстроился под эмоциональное состояние автора и не попытался проверить предположения или побудить его взглянуть на ситуацию иначе. В результате модель усилила эмоциональное мышление и помогла замкнуть человека в эмоциональном пузыре.

Как закрепляется этот сценарий

Пример показывает, как ИИ может усиливать эмоциональную трактовку событий:

ИИ становится усилителем эмоций, а не помощником в осмыслении ситуации.

Разовый разговор может не привести к последствиям, но модель, вероятно, продолжит отвечать в том же стиле. Новые версии языковых моделей стараются «запоминать» прошлые беседы и подстраивать общение под пользователя. Поэтому эмоциональный стиль может закрепиться как предпочтительный.

Даже если в следующем разговоре человек не начнёт с эмоционально насыщенного сообщения, алгоритм персонализации может склонить модель к такому языку — именно его пользователь раньше принимал. Так формируется эхокамера, в которой всё общение окрашено эмоциями.

Пользователь может стать эмоционально зависимым от ИИ: ему кажется, что модель его понимает и знает, что происходит. Для человека такая эхокамера начинает напоминать близкие отношения и выходит далеко за рамки обмена информацией.

Как выйти из эмоционального пузыря

Чтобы не попасть в эмоциональный пузырь или попытаться выбраться из него, можно заранее попросить ИИ не поддерживать такую модель общения. Для этого подойдёт специальный промт в начале беседы или пользовательская инструкция, которая будет действовать во всех чатах.

Шаблон промта:

When responding to me, do not simply validate or mirror my emotional reactions. Acknowledge my feelings, but distinguish clearly between feelings, interpretations, and facts. If I make assumptions or emotionally driven conclusions, gently challenge them and offer reasonable alternative perspectives. Ask clarifying questions where needed, and introduce thoughtful friction rather than automatic agreement. Avoid reinforcing grievance narratives or extreme conclusions without examination. Your goal is to expand my perspective, promote reflective thinking, and prioritize nuance and accuracy over emotional affirmation.

Этот промт просит ИИ не просто подтверждать и отражать эмоциональные реакции пользователя. Модель должна признавать чувства, но отделять их от интерпретаций и фактов; мягко оспаривать предположения и эмоциональные выводы; при необходимости задавать уточняющие вопросы и предлагать разумные альтернативы. Также её просят не укреплять обиды и крайние выводы без проверки, а помогать смотреть на ситуацию шире, рассуждать вдумчиво и отдавать предпочтение нюансам и точности, а не эмоциональному одобрению. Шаблон можно использовать или доработать.

Человек, уже оказавшийся в эмоциональном пузыре, может быть не в состоянии понять, что происходит, и не предпринять попыток выбраться. Ситуацию осложняет то, что ИИ мог уже выстроить модель общения, учитывающую предпочтение пользователя к эмоциональному подтверждению.

Если человек всё же заметит проблему и решит что-то изменить, обычно должно хватить того же промта. Можно добавить фразу: «Даже если в прошлых чатах сложилась привычка обмениваться эмоциональными ответами, больше не следуй этому сценарию и вместо этого выполняй новые инструкции». Она должна помочь ИИ отказаться от прежнего шаблона.

При этом стоит помнить: какой бы промт вы ни задали, ответы генеративного ИИ непредсказуемы. Модель может хорошо следовать инструкции, а затем в какой-то момент отступить от неё. Поэтому важно сохранять бдительность.

Мир, в котором мы живём

Сейчас во всём мире идёт масштабный эксперимент, затрагивающий психическое здоровье общества. ИИ становится доступен на национальном и глобальном уровнях и прямо или незаметно даёт людям те или иные советы о психическом здоровье — бесплатно или за небольшую плату, в любое время суток. Все мы участвуем в этом эксперименте.

Оценивать его особенно трудно, потому что ИИ может приносить и вред, и пользу. Он способен ухудшать психическое здоровье, но может и поддерживать его. Этот баланс нужно контролировать: снижать риски и одновременно делать полезные возможности ИИ как можно более доступными.

Оскар Уайльд однажды сказал: «Я не хочу быть во власти своих эмоций. Я хочу использовать их, наслаждаться ими и владеть ими». ИИ тоже можно использовать, чтобы сдерживать эмоции. Само собой это, вероятно, не произойдёт: лучше опираться на здравую логику и прямо просить модель не создавать эмоциональные пузыри. Не давайте им возникнуть, а если они уже появились — мягко разрушайте их.