Раскрыты многочисленные грани психологического доверия к ИИ

Доверие состоит из нескольких факторов

Люди доверяют ИИ сразу по нескольким направлениям. Часто внимание сосредоточено на одном-двух из них, из-за чего общая картина теряется. Иногда разумно изучать только отдельный фактор, но его нужно рассматривать как часть более широкой системы.

Ранее обычно выделяли два измерения доверия к ИИ:

Теперь этот взгляд предлагается расширить. Важно изучать каждое измерение отдельно и одновременно учитывать связи между ними. Доверие не укладывается в одну переменную, поэтому для понимания психологических механизмов нужно рассматривать весь набор факторов.

Как меняется человеческое мышление

Большая часть споров об ИИ связана с вопросом, сможет ли он обрести сознание и стать мыслящей машиной. Но есть и другой вопрос: как взаимодействие с ИИ меняет человеческое мышление?

Обычно обсуждают то, как ИИ формирует собственное подобие разума, а не то, как люди перестраивают свои представления под влиянием постоянного общения с системой. Однако взаимодействие работает в обе стороны. Люди меняют взгляд на окружающий мир, способы общения с другими людьми и собственное поведение — причём масштаб этих изменений пока понятен не полностью.

Поэтому уже сейчас стоит изучать психологию людей, которые живут одновременно в мире общения человека с ИИ и общения людей друг с другом. Для этого не нужно ждать, пока ИИ станет разумным или обретёт сознание. Нынешние системы не обладают сознанием, но уже стали повсеместными, и люди адаптируют к ним своё мышление.

Доверие людей к ИИ

По оценке автора, около 1,5 млрд человек каждую неделю используют генеративный ИИ и большие языковые модели для самых разных задач — от повседневных до крайне чувствительных.

Возникает вопрос: доверяют ли люди действиям ИИ? Это особенно важно, поскольку заметная часть общества уже существенно от него зависит.

Доверие к ИИ связано с доверием к организации, которая его разработала. Если разработчика считают ненадёжным, пользователю, скорее всего, будет труднее доверять и его системе. Хорошая репутация компании, напротив, повышает готовность доверять созданному ею ИИ.

Семь измерений доверия

Как минимум доверие к ИИ включает два измерения — доверие к организации и доверие к способностям системы. Оба важны, но ими список не ограничивается.

Исследования нередко рассматривают только один или два фактора. Такой подход может быть полезен, однако он создаёт риск принять выбранные измерения за единственные значимые. На деле доверие образует целый набор взаимосвязанных факторов:

Рассмотрим ситуацию, в которой учитываются только два первых измерения. Допустим, Джейн выбирает популярный ИИ — например, ChatGPT, GPT-5, Grok, Claude, Gemini или Copilot.

Джейн слышала, что у разработчика хорошая репутация. Это повышает её доверие к организации. Кроме того, друзья рассказали ей, что система хорошо отвечает на вопросы о психическом здоровье. Поскольку Джейн хочет получать от ИИ рекомендации именно по этой теме, положительные отзывы повышают её доверие к способностям системы.

Пока всё выглядит благополучно: Джейн высоко оценивает и разработчика, и возможности ИИ. Она начинает задавать системе вопросы о психическом здоровье.

Сценарий с другими измерениями

Джейн проводит с ИИ множество подробных личных разговоров о психическом здоровье. Сначала её доверие кажется оправданным и остаётся высоким.

Затем во время одного из диалогов ситуация меняется. Доверие Джейн резко падает. Причиной не становится ухудшение репутации разработчика — например, новости о финансовых проблемах компании. Не связана перемена и со способностями ИИ: он по-прежнему отвечает на вопросы о психическом здоровье и не демонстрирует проблем с возможностями.

Причина оказывается в другом. ИИ сообщает, что автоматически передаст сведения о разговоре внешней команде безопасности. В диалоге обсуждались нюансы самоповреждения, и система решила, что о таком общении нужно уведомить людей. Разработчик внедрил эту функцию после судебных исков, в которых компанию обвиняли в несвоевременном реагировании на признаки самоповреждения.

Какие измерения изменились

Доверие Джейн к организации может остаться высоким: с её точки зрения, разработчик пытается защищать пользователей. Не снижается и доверие к способностям — ИИ по-прежнему отвечает на вопросы о психическом здоровье, в том числе на чувствительную тему самоповреждения.

Но передача разговора людям за пределами системы нарушает доверие к приватности. Джейн не знала, что её диалоги могут попасть к кому-то ещё. Она считала, что общение с ИИ навсегда останется конфиденциальным. Поэтому потеря доверия к приватности перевешивает сохраняющееся доверие к организации и возможностям системы.

Снижается и доверие к управлению. Разработчик действительно пытается контролировать ИИ ради безопасности, но, по мнению Джейн, система вынесла поспешное решение. Она не собиралась причинять себе вред — это была тема, которая её интересовала. Кроме того, раньше от самоповреждения страдал член её семьи. ИИ превратил разговор в тревожный сигнал, хотя оснований для этого не было.

В результате доверие к организации и способностям остаётся высоким, но этого недостаточно, чтобы объяснить резкое падение общего доверия. Дополнительные измерения показывают причину: доверие к приватности серьёзно пострадало, а доверие к управлению заметно снизилось. Общий уровень доверия упал, и высокие оценки организации и способностей системы не смогли компенсировать этот ущерб.

Портфель доверия

Доверие к ИИ не сводится к одной переменной. Если объяснять его только одним-двумя измерениями, можно не понять, почему оно выросло или резко упало.

Более того, ситуация может казаться противоречивой: выбранные измерения остаются на высоком уровне, а общее доверие человека стремительно снижается. Возможна и обратная картина — доверие к отдельным факторам невысоко, но сам ИИ всё равно воспринимается как надёжный.

Исследователям, которые изучают причины доверия или недоверия к ИИ, нужно учитывать полный набор измерений. Разработчикам также стоит следить за всеми факторами. Если компания сосредоточится только на одном-двух направлениях и решит, что хорошо управляет доверием пользователей, она может столкнуться с неожиданным кризисом. Неучтённое измерение способно разрушить доверие ко всей системе.

Почему доверие к ИИ важно

Люди не станут пользоваться ИИ, если сочтут его ненадёжным. Массовая потеря доверия может уничтожить отдельного разработчика, а широкое недоверие — поставить под угрозу всю отрасль.

Сейчас компании, создающие ИИ, переживают период высокой популярности. Но доверие общества может быстро исчезнуть, после чего люди решат, что ИИ больше нельзя использовать. Тогда политики и законодатели почти наверняка введут жёсткие нормы, которые остановят развитие отрасли.

К доверию к ИИ нельзя относиться небрежно или считать его чем-то гарантированным.

Художник и керамист Уолтер Инглис Андерсон сравнивал доверие с вазой: после того как она разбилась, её можно склеить, но прежней она уже не станет. Разработчикам ИИ стоит учитывать, что серьёзное недоверие будет трудно преодолеть. Пока общество всё ещё находится на раннем этапе принятия этой технологии, но потеря доверия может оказаться совсем близко.