Доверие к ИИ завоёвывают или теряют в зависимости от недоверия к его создателям

Два источника доверия

Доверие к ИИ возникает как минимум двумя путями. Первый связан с непосредственным использованием: человек сам видит, как работает система, и решает, насколько ей можно доверять. Второй зависит от того, считает ли он надёжной компанию, разработавшую этот ИИ.

Если компания кажется безответственной — например, из-за того, как она создаёт систему или контролирует её поведение, — пользователи с самого начала будут относиться к ИИ настороженно. Возникает пробел в доверии ещё до первого взаимодействия с продуктом.

Если же разработчик воспринимается как надёжный, это создаёт вокруг его ИИ положительный фон. Люди охотнее начинают пользоваться системой и предполагают, что ей можно доверять.

Но такая связь ограничена. Компания с хорошей репутацией быстро потеряет доверие, если её ИИ начнёт работать плохо или выдавать опасные результаты. Доверие держится непрочно.

Как ИИ меняет человеческое мышление

Обычно обсуждение ИИ сосредоточено на вопросе, сможет ли сама система обрести сознание и стать «мыслящей машиной». Есть и другой вопрос: как взаимодействие с ИИ меняет человеческий разум?

Он может показаться неожиданным, потому что внимание обычно направлено на то, как ИИ формирует собственное мышление. Но взаимодействие всегда двустороннее. Когда люди всё чаще общаются с ИИ, они меняют представления о мире и о том, как следует разговаривать с другими людьми. Масштаб этих изменений пока ещё не изучен полностью.

Поэтому уже сейчас имеет смысл исследовать психологию людей, которые живут одновременно в мире общения с другими людьми и взаимодействия с ИИ. Для этого не нужно ждать появления сознательного ИИ. Люди уже приспосабливают мышление к повсеместному присутствию систем, не обладающих сознанием.

Человеческое мышление меняется уже сейчас.

Сколько людей пользуются ИИ

По оценке автора, около 1,5 млрд человек еженедельно используют генеративный ИИ и большие языковые модели для самых разных задач — от повседневных мелочей до чувствительных вопросов.

Из-за этого становится важным понять, доверяют ли люди действиям ИИ. Если значительная часть населения регулярно полагается на такие системы, отношение к их разработчикам может влиять на поведение пользователей.

Опрос Pew Research Center, в котором приняли участие более 5 000 взрослых жителей США, проводился в феврале 2026 года, а его результаты опубликовали 17 июня. Поскольку отношение к ИИ постоянно меняется, данные такого опроса отражают ситуацию только в конкретный момент.

Согласно результатам, около 60% взрослых американцев не уверены, что разработчики ИИ смогут обеспечить ответственное использование технологии.

Цепочка доверия

Доверие к разработчику, вероятно, складывается из оценки его намерений и компетентности. Затем эта оценка влияет на то, насколько надёжным человек считает сам ИИ. Если рассуждать рационально, предположение должно проверяться реальным использованием системы: человек будет постепенно менять степень доверия и свою готовность полагаться на ИИ в зависимости от его поведения.

Для упрощения доверие можно разделить на высокий и низкий уровень. Это довольно грубая схема: в реальности доверие меняется постепенно и располагается на широком спектре. Но такое деление помогает увидеть основные варианты.

Есть институциональное доверие — отношение к компаниям, создающим ИИ. Есть отдельное доверие к способности самого ИИ справляться со своими задачами.

Если соединить эти два вида доверия с высоким и низким уровнем, получаются четыре сочетания:

Первые два сочетания выглядят логично. Если человек доверяет разработчику, он, скорее всего, будет доверять и созданному им ИИ. Если же компания кажется ненадёжной, доверие к её системе тоже будет низким.

Сложнее объяснить два других варианта. Почему человек может верить компании, но не доверять её ИИ? И почему он может сомневаться в разработчике, но положительно оценивать конкретную систему?

Доверие к компании и конкретному человеку

Похожая ситуация встречается в обычных отношениях между людьми и организациями.

Можно не доверять банку в целом, но хорошо относиться к конкретному сотруднику, которого человек оценивает отдельно от учреждения. То же происходит в медицине: пациент может доверять врачу, хотя не доверяет системе здравоохранения, в которой тот работает.

Обратный вариант тоже возможен. Банк с безупречной репутацией может столкнуться с сотрудником, который плохо выполняет свои обязанности. Если он неправильно распорядится деньгами клиента, доверие к конкретному работнику окажется важнее общей репутации банка.

Так же человек способен отделять институциональное доверие к разработчику от доверия к возможностям самого ИИ. В итоге он будет принимать решения прежде всего по тому, что система говорит и делает. Репутация компании останется одним из факторов, но не обязательно станет главным. Поведение самого ИИ может перевесить отношение к его создателю.

Как доверие меняется со временем

Люди редко однажды выбирают определённый уровень доверия и навсегда сохраняют его. Обстоятельства меняются, поэтому меняется и отношение к окружающим — в том числе к ИИ и компаниям, которые его создают.

Представим Джейн, которая решила воспользоваться ИИ компании XYZ. Она слышала, что XYZ хорошо известна и ответственно разрабатывает свои системы. Поэтому ещё до начала работы у неё сформировалось высокое доверие и к компании, и к её ИИ.

После первых взаимодействий система стала давать полезные и точные ответы. Это укрепило первоначальное доверие Джейн к ИИ. Одновременно выросло и её доверие к компании XYZ: возможности продукта стали подтверждением того, что разработчик действительно заслуживает хорошей репутации.

В этом случае компания получает дополнительные очки институционального доверия благодаря работе своего ИИ.

Затем Джейн попросила систему дать личный совет и получила тревожный ответ. ИИ предложил действия, которые могли причинить серьёзный вред. Доверие к системе резко упало.

При этом Джейн, скорее всего, начнёт сомневаться и в компании XYZ. Снижение доверия к ИИ может перейти на разработчика, поскольку продукт и его создатель воспринимаются как связанные. Однако человек способен мысленно разделить эти оценки и продолжить доверять компании, несмотря на плохой опыт с системой. Но чаще негативный опыт ИИ, вероятно, повлияет и на отношение к разработчику.

Связь работает и в обратную сторону. Хорошая работа ИИ уже повысила доверие Джейн к XYZ. Но если в новостях появятся сообщения о том, что система компании вышла из-под контроля и давала вредные советы, это может повлиять на восприятие самого ИИ — даже если Джейн лично не столкнулась с такой проблемой и продолжает пользоваться продуктом.

Цена чрезмерного доверия

Когда человек слишком сильно доверяет ИИ, он может без достаточной проверки принимать его ответы. Особенно рискованно это в ситуациях, связанных с психическим здоровьем: пользователь способен принять советы системы за терапевтические рекомендации и загнать себя в ещё более сложное положение.

Разработчикам ИИ также нужно учитывать обе стороны доверия. Им необходимо институциональное доверие, чтобы компания могла успешно работать на рынке, и доверие к возможностям продукта, чтобы люди хотели пользоваться самим ИИ.

Если разработчик не понимает, откуда берётся доверие и как его создавать и поддерживать, он будет совершать ошибки и рисковать репутацией компании.

В завершение автор ссылается на предпринимателя Р. М. Уильямса, который считал доверие самым лёгким приобретением для потери и самым трудным — для восстановления. К ИИ и его разработчикам это относится в полной мере: человек, разочаровавшийся в компании или системе, не сразу решится снова им доверять. Поэтому однажды полученное доверие нужно бережно сохранять.