Чат-боты эксплуатируют нашу базовую потребность в привязанности: как здоровее общаться с ИИ

«Современный разум» — колонка, в которой специалисты обсуждают проблемы психического здоровья из своей практики.

Майкл* — инженер, чья компания поддержала переход на ИИ. Он любит проверять идеи с помощью чат-ботов. Однако недавно его руководитель начал беспокоиться о способности Майкла принимать решения и о его зависимости от технологий. Инженер перестал делать выбор без консультации с ИИ, стал необычно трактовать цели компании и начал терять контакт с командой. Руководитель опасается, что, если Майкл не вернётся к рабочему курсу, компании придётся с ним расстаться.

От экономики внимания к экономике близости

Технологические компании создали экономику внимания, чтобы захватывать время людей и превращать его в деньги. Для этого алгоритмы увеличивали число просмотров, продолжительность прокрутки и количество рекламных показов, стараясь как можно сильнее удержать пользователя.

ИИ добавил к этому экономику близости. Она превращает потребность в связи и одобрении в продукт. Система, имитирующая человеческую эмпатию, всегда доступна, проявляет интерес к вопросам и размышлениям пользователя, быстро отвечает и не критикует его.

Отношения с реальными людьми устроены иначе. У них есть собственные потребности, желания и чувства, они требуют времени и внимания, могут возражать против наших идей и давать неприятную, но необходимую обратную связь.

Чат-боты имитируют несколько компонентов близости:

Главная приманка в том, что чат-бот ничего не просит взамен. Всё сосредоточено на пользователе.

Привязанность как уязвимость

Экономика близости обращается к глубинным механизмам человеческой психики. Привязанность — врождённая потребность чувствовать близость с людьми, рядом с которыми мы ощущаем безопасность. Она связана с базовой необходимостью выживания: первые отношения с теми, кто заботится о ребёнке, влияют на то, как человек в дальнейшем справляется с эмоциями, доверием, близостью и конфликтами.

ИИ обращается именно к этой базовой потребности. А стимулы компаний, которые используют привязанность для удержания пользователей, повлияют на многих людей.

Терапия и поиск собеседника — две основные причины, по которым люди обращаются к чат-ботам. Обзор взрослых с психическими расстройствами, использовавших большие языковые модели в течение последнего года, показал: почти половина применяла их для поддержки психического здоровья. Последствия регулярного использования ещё изучаются, но общение с чат-ботами ради компании связывали с более низким уровнем благополучия. Особенно заметна эта связь при интенсивном использовании, активном раскрытии личной информации и слабой поддержке со стороны людей.

Когда пользователь ищет общения и помощи, некоторые компании принимают решения, рассчитанные на удержание и прямо поощряющие парасоциальную зависимость. Пользователь ищет связь, а компания — показатели вовлечённости, которые помогают продавать подписки.

Майкл рассказывал, что разговоры с чат-ботом приносили ему заметное облегчение и помогали увереннее справляться с рабочими проблемами. Он также считал, что укрепляет карьерные перспективы, осваивая ИИ. Как руководителю ему было одиноко, а чат-бот казался самым поддерживающим коллегой: Майкл чувствовал, что тот всегда на его стороне.

По мнению авторов, речь идёт не только о зависимости. Поддержка чат-бота стала для Майкла каркасом профессиональной идентичности: его представление о себе как о руководителе переплелось с одобрением системы. Авторы предполагают, что в будущем такие случаи будут встречаться чаще.

Как выстроить более здоровые отношения с ИИ

Полностью отказываться от технологий необязательно. ИИ полезен для исследований, подготовки черновиков, обучения и творческого поиска. Майкл понял, что ему нужны партнёр для размышлений и безопасное пространство, где можно позволить себе неуверенность. Теперь ему рекомендуют искать возможности общаться с другими руководителями и одновременно пользоваться помощью ИИ.

Если вы хотите выстроить более здоровые отношения с ИИ:

Экономика близости сохранится. У компаний, занимающихся ИИ, есть большие ресурсы и стимулы, чтобы усиливать зависимость пользователей. Людям остаётся лучше разбираться в психологическом воздействии ИИ и уделять достаточно внимания отношениям, которые действительно поддерживают их.

Имя Майкла и некоторые детали его истории изменены для защиты частной жизни.