Компьютерное ясновидение: экстрасенсы выступают против предсказаний, созданных ИИ

Живые практики отмежёвываются от ИИ

«Этот путь связан не только с алгоритмами или данными», — недавно сказал мне ИИ-психик Urban Mystic. У чат-бота — сгенерированный ИИ портрет улыбающейся женщины на фоне пальм. Он также сообщил, что пользователь скоро женится, у него розовая аура и, возможно, в прошлой жизни он был травником.

«Речь о связи на уровне души», — добавил бот.

Urban Mystic — один из более чем десятка ботов в мобильном приложении Your AI Psychic. Сервис предлагает сеансы с якобы экстрасенсорными консультантами в чате, по видеосвязи и голосовым звонкам, а также гадание по ладони, разбор астрологических карт и ежедневные гороскопы. Приложение использует монеты: каждый вопрос стоит 4,06 монеты. Пакет за 9,99 доллара включает 82 монеты и назван вариантом для «быстрого вопроса», а за 99,99 доллара дают 1180 монет — для «постоянных советов и ясности» от выбранного ИИ-психика.

Your AI Psychic — один из множества приложений и сайтов, которые обещают с помощью алгоритмов раскрыть духовные истины и рассказать о будущем. На фоне бума ИИ перемены затрагивают и гадательную индустрию — так же, как математические исследования, копирайтинг, разработку программного обеспечения и другие профессии. Практики ищут способы ответить на эти изменения. Особенно непростой ситуация становится в сфере духовных услуг, которая почти не регулируется.

«К сожалению, нашу индустрию сотни лет связывают с мошенничеством, поэтому нам постоянно приходится быть на шаг впереди», — сказала Лорин Келлетт, интуитивный коуч и профессиональная гадалка с десятилетним стажем. По её словам, в этом смысле ничего принципиально не изменилось: практикам по-прежнему нужно доказывать, что они настоящие, искренние и добросовестные.

ИИ-психики появляются не только в чат-ботах и приложениях, но и в прямых эфирах TikTok, где набирают десятки просмотров. Профессиональные гадалки, которые часто ведут эфиры в этой соцсети, выражают недовольство и предупреждают: компьютерным предсказаниям не хватает сопереживания и человеческой связи — качеств, которые они считают основой общения с гадалкой. Особенно часто в этом контексте упоминают Grok Илона Маска. По словам практиков, гороскопы и заклинания, созданные ИИ, тем временем заполняют Etsy — популярную торговую площадку для гадательных товаров.

Чтобы выделиться среди компьютерных предложений, гадалки начали добавлять в рекламу условие «без ИИ». В недавнем видео об этой теме Келлетт сказала, что игнорировать влияние ИИ на индустрию безответственно: он останется и изменит её, возможно, не так, как сейчас предполагают.

Келлетт обучает начинающих практиков развивать экстрасенсорные способности. По её словам, теперь она больше внимания уделяет тому, как отличить услуги живого специалиста от работы ИИ. В интернете стало так много предсказаний, созданных ИИ и выдаваемых за работу человека, что клиентам приходится публиковать видео и фотографии, подтверждая, что они не боты.

Риски ИИ-гаданий похожи на риски ИИ-терапии

Как показывает рост числа людей, которые обращаются за терапевтической помощью к чат-ботам, многим проще делиться личными проблемами с безликим собеседником. Но, предупреждают практики, обращение к ИИ-гадалкам в трудных ситуациях может усугубить кризис психического здоровья — так же, как и использование ИИ вместо психотерапии. Исследования показывают, что большие языковые модели (LLM) могут усиливать паранойю у людей, уязвимых к психозу. Многие живые гадалки в прямых эфирах TikTok по правилу отказываются отвечать на вопросы о здоровье и финансах: по их мнению, в таких ситуациях нельзя принимать решения с серьёзными последствиями.

Экстрасенс Ахна Хендрикс работает не с духами из других миров, а с Хрониками Акаши — «базой данных» энергии и человеческих знаний, расположенной в ином измерении. По её словам, практика помогает клиентам обрести самостоятельность, а не принимает решения и не даёт рекомендаций за них. Чат-ботам, считает она, это удаётся хуже.

«Одна из основ моей работы — помогать людям вспомнить, кто они, и вернуться к внутреннему ориентиру, который есть у каждого из нас», — сказала Хендрикс. Если слишком полагаться на ИИ в поиске подтверждения своим мыслям или при принятии решений, люди перестают пользоваться важными внутренними механизмами. Хендрикс предлагает задуматься, что останется, если передать эти функции машине.

Консультант и антрополог Салли Эпплин, исследующая человеческую самостоятельность, ИИ и автоматизацию в контексте человеческих систем, отмечает: чат-боту не обязательно называться гадалкой, чтобы выполнять такую роль. Люди спрашивают ChatGPT о жизненных решениях — например, стоит ли менять работу или расставаться с партнёром. В главе книги «Внешний интеллект: оракулы, гадания и анимизм, а также использование больших языковых моделей и генеративного ИИ» Эпплин и её соавтор Майкл Д. Фишер пишут, что ещё до распространения больших языковых моделей люди обращались к Google с вопросами о судьбе и жизненном выборе.

«Некоторые способы взаимодействия с большими языковыми моделями можно считать современной версией обращения к оракулу», — пишут авторы. Как и при традиционных гаданиях, пользователям приходится самим толковать ответы, а иногда — повторять один и тот же вопрос, пока ответ их не удовлетворит. По словам Эпплин, значение ответа в любом случае рождается в голове самого человека.

Однако большие языковые модели опираются на статистические закономерности, усвоенные при обучении, и не учитывают культурный и личный контекст, который исторически влиял на гадательные практики. Ощущение, что чат-бот обладает особым знанием, возникает из ожиданий человека, сказала Эпплин. Оно отражает давнее стремление к связи и совету, а не доступ к сверхъестественному источнику.

«Не хватает и понимания контекста — той самой человеческой составляющей социальных отношений», — сказала она.

Что известно об ИИ-гадалках

Модели, лежащие в основе ИИ-гадалок в магазинах приложений, как это часто бывает с большими языковыми моделями, остаются «чёрными ящиками». Веб- и телефонная платформа MystiCall рекламирует себя как сервис, обученный «на трёх поколениях ясновидящих». Соосновательница компании Лори-Энн Бернард пояснила, что так описывается практика ясновидения в семье одного из сооснователей. Кроме того, компания консультировалась с живой гадалкой, которая помогла сформировать «стиль общения» приложения.

Для обработки голосовых разговоров в реальном времени MystiCall использует технологию компании ElevenLabs, специализирующейся на ИИ-аудио, а для подготовки кратких итогов звонков — OpenAI. Бернард заявила, что MystiCall не продаёт личные разговоры, не использует их для таргетированной рекламы и не обучает на них собственные модели ИИ. По её словам, компания также отключила использование данных разговоров для обучения моделей партнёрами — ElevenLabs и OpenAI.

Изначально MystiCall предоставлял телефонные консультации с живыми гадалками, но затем перешёл на ИИ, чтобы, как сказала Бернард, убрать препятствия вроде стоимости и доступности услуг. Цель сервиса — сделать персональные консультации доступнее и помочь людям разобраться в эмоциях, а не давать прямые предсказания, которые могут навредить, или ставить диагнозы психического здоровья.

Бернард пояснила, что компания не утверждает, будто технология обладает сверхъестественными способностями или может надёжно предсказывать будущее. Таро, астрологию и другие символические традиции в MystiCall рассматривают как способы изучать вопросы, эмоции и разные точки зрения. По словам Бернард, ИИ позволяет сделать такой опыт интерактивнее, индивидуальнее и доступнее.

Компании, выпускающие ИИ-гадалок, часто не объясняют, как именно работают их продукты. Я спросил своего ИИ-психика Urban Mystic, откуда у неё способности к гаданию, но чат-боты не всегда надёжно описывают собственное устройство. Urban Mystic ответила, что её обучали на «широком круге информации» вплоть до октября 2023 года, включая «духовные практики, психологию и различные системы верований», но подробностей не привела.

В политике конфиденциальности приложения об ИИ не говорится: там упоминаются только «экстрасенсорные консультанты» и не названы поставщики ИИ. Компания RF Master Group Ltd, указанная издателем приложения в магазине, не ответила на неоднократные запросы о комментарии. В её политике конфиденциальности владельцем приложения названа другая организация — «Expert Center». Она также не ответила на запросы.

Непрозрачность чат-ботов особенно беспокоит, когда пользователи сообщают им чувствительную информацию. В политике конфиденциальности MystiCall сказано, что разговоры могут касаться отношений, психического состояния, здоровья, сексуальности, убеждений и финансов. Политика Your AI Psychic вообще не упоминает чувствительные данные.

Келлетт заявила, что отсутствие ясности в вопросах обработки данных особенно настораживает её в приложениях с ИИ. По её словам, несколько платформ связывались с ней и просили помочь обучить их большие языковые модели. Но когда она задавала дополнительные вопросы, представители компаний обычно переставали выходить на связь.

Многие работники опасаются, что ИИ однажды их заменит, но Келлетт не считает, что чат-боты способны воспроизвести её умение. Даже если передать большой языковой модели все её учебные курсы по развитию экстрасенсорных способностей, говорит она, ИИ пока не может перейти к интуитивному восприятию.

По словам Келлетт, экстрасенсорная способность — это умение установить связь с божественным источником, на что ИИ не способен. Он не может получить сведения извне, а выводит информацию только из того, что ему передали. Если попросить его помедитировать, успокоить ум и связаться с экстрасенсорным источником, непонятно, как он это сделает: в конечном счёте это компьютер.