Психология доверия к ИИ сбивается из-за коварного «парадокса раскрытия»

Проблема человеческого сознания

Многие споры об ИИ связаны с тем, станет ли он разумным и обретёт ли сознание. Но есть и другой вопрос: как взаимодействие с ИИ меняет человеческое мышление?

Обычно внимание сосредоточено на том, как ИИ может сформировать собственное сознание. Однако при постоянном общении людей с ИИ меняются обе стороны взаимодействия. Люди пересматривают представления о мире, способы общения и отношение к собеседникам. Масштаб этих изменений пока изучен не полностью.

Исследовать психологию людей, приспосабливающихся к миру с одновременными контактами «человек — человек» и «человек — ИИ», можно уже сейчас. Для этого не нужно ждать появления разумного ИИ: люди адаптируются к повсеместному использованию несознательных систем, и их мышление уже меняется.

Доверие к людям и ИИ

Исследования неоднократно сравнивали доверие к людям и доверие к ИИ. Представим ситуацию.

Вы получили сообщение от службы поддержки компании, в которой недавно купили товар и хотите его вернуть:

Если вы считаете, что это написал сотрудник компании, доверие к предстоящему разговору, вероятно, будет умеренным. Вы можете немного насторожиться: многие сталкивались с тем, что возврат оказывается сложнее, чем должен быть. Но всё же останется место для осторожного оптимизма.

Предвзятость против ИИ

Теперь представим, что сообщение отправил не человек, а ИИ-агент. Обсуждать возврат вы будете с машиной, а диалога между двумя людьми не будет.

После этого доверие, скорее всего, снизится. ИИ воспринимается как менее надёжный собеседник: от него ожидают шаблонных ответов, меньшей гибкости и менее естественного разговора. Обычная процедура возврата начинает казаться потенциальной проблемой.

Для такой реакции используют два выражения:

Люди одновременно предпочитают человеческие диалоги и хуже относятся к взаимодействию с ИИ.

Дело в восприятии

Исследования в целом подтверждают существование «надбавки за человека» и «штрафа за ИИ». Чтобы понять глубину этой предвзятости, учёные проводили эксперименты, в которых участникам сообщали неверный источник диалога.

Представим, что человеку говорят: разговор о возврате будет вести ИИ, хотя на самом деле на другом конце находится сотрудник компании. Участник считает, что общается с машиной, хотя фактически разговаривает с человеком.

Многие уверены, что быстро заметили бы обман. По их мнению, разговор начался бы, и они сразу поняли бы, что собеседник не ИИ. Но современные системы стали настолько убедительными, что отличить разговор с ИИ от разговора с человеком бывает трудно.

Раньше машинные диалоги часто звучали скованно, а система быстро выдавала себя. Если задавать ей неожиданные вопросы, она могла зайти в тупик и признать, что не способна ответить. В обычных разговорах такие признаки постепенно исчезают.

Когда источник нельзя определить

Если человеку говорят, что он общается с ИИ, хотя на самом деле собеседник — человек, участник, скорее всего, применит «штраф за ИИ». Он будет оценивать человеческий разговор хуже только потому, что считает его машинным.

Обратная ситуация работает так же. Если человек думает, что общается с сотрудником, хотя на самом деле отвечает ИИ, он применяет «надбавку за человека» и начинает больше доверять диалогу.

Уровень доверия зависит от восприятия источника, даже если это восприятие ошибочно. Получаются четыре варианта:

Исследование парадокса раскрытия

Исследование «Штраф за ИИ и парадокс раскрытия: доверие, подлинность и усвоение знаний в коммуникации при участии ИИ» подготовили Сиавош Сахеби, Пол Формоза и Сара Бэнкс. Работа опубликована в журнале Computers In Human Behavior: Artificial Humans в марте 2026 года. Авторы выделили несколько наблюдений:

Суть парадокса такова: если не сообщать человеку об участии ИИ и он сам ничего не подозревает, разговор обычно проходит без дополнительной предвзятости. Но после уведомления он начинает применять «надбавку за человека» и «штраф за ИИ». Получается, что именно раскрытие правды меняет восприятие собеседника и может ухудшить взаимодействие.

Три варианта

Парадокс ставит разработчиков ИИ перед тремя основными вариантами:

В пользу правды

Одни считают, что пользователь должен всегда знать, когда взаимодействует с ИИ. Любой другой подход они назвали бы неприемлемым и нечестным.

Отсутствие уведомления может восприниматься как этическое нарушение и даже как незаконное действие. В некоторых штатах США уже принимают законы, обязывающие создателей ИИ явно сообщать о машинном собеседнике. Система может быть обязана неоднократно напоминать об этом в ходе разговора и прямо обозначать себя как ИИ.

С этой позиции последующее изменение отношения пользователя — его собственная ответственность. Если человек поддаётся предвзятости, разработчик не обязан защищать его от собственных представлений. Правильный путь — быть честным и открытым.

Скрыть ради пользы

Противники обязательного раскрытия возражают: иногда человеку можно помочь, не сообщая информацию, которая ухудшит его восприятие ситуации.

Пользователь, негативно реагирующий на ИИ только из-за самого факта его участия, может сам снизить качество взаимодействия. Он будет считать разговор хуже, даже если ИИ отвечает не хуже человека или превосходит его.

С этой точки зрения разработчику или оператору ИИ следует оставить право решать, нужно ли сообщать о машинном собеседнике. Природа источника может считаться несущественной, если диалог проходит нормально. Скрывая участие ИИ, разработчик как будто не даёт предвзятым представлениям пользователя помешать разговору.

Нейтральная позиция

Третий вариант — вообще не сообщать, кто ведёт диалог. Пользователь сам может решить, общается ли он с человеком или с ИИ.

Он может понять, что перед ним машина, и отнестись к этому соответственно. Или может предположить, что разговаривает с человеком. В обоих случаях решение остаётся за ним.

Но молчание тоже может выглядеть формой обмана. Разработчик делает вид, что сохраняет нейтралитет, хотя знает: на другом конце находится ИИ. Существенная информация намеренно удерживается, поэтому недосказанность может оказаться почти такой же проблемой, как прямая ложь.

Нерешённая дилемма

Разработчик ИИ оказывается в ситуации, где любой выбор может обернуться проблемой. В некоторых штатах США эта неопределённость уже исчезла: если закон требует уведомлять пользователя о машинном собеседнике, разработчик обязан это делать. За нарушение могут последовать гражданские и уголовные обвинения.

Даже при отсутствии закона отказ от раскрытия остаётся рискованным. Пользователи могут позже подать в суд, утверждая, что разработчик ввёл их в заблуждение. Суды и присяжные, вероятно, сочтут убедительной позицию тех, кто заявит, что не знал об участии ИИ. Защита в духе «мы просто ничего не сказали» может выглядеть слабой, а объяснение «мы солгали ради пользы пользователя» — вызвать ещё более резкую реакцию.

Возможен и ситуационный подход: раскрывать участие ИИ только в отдельных случаях. Например, при разговорах о здоровье, финансах и других личных вопросах уведомление могло бы быть обязательным, а в остальных ситуациях разработчик решал бы сам.

Но такая гибкость создаёт новую проблему: каждый раз нужно определять, когда именно сообщать правду, а когда можно промолчать. В дальнейшем это решение может обернуться против разработчика.

Мир, в котором мы живём

Возможный компромисс — спросить пользователя, хочет ли он знать, общается ли с ИИ или человеком. На первый взгляд, это позволяет ему самому выбрать объём информации.

Однако сам вопрос способен вызвать тревогу. Пользователь начнёт гадать, кто перед ним, и может заподозрить обман даже после ответа. Он станет думать, что ему могли солгать независимо от того, назвали собеседника человеком или ИИ. В результате вопрос создаст проблему, которой до этого не было.

Есть и другая особенность: иногда люди демонстрируют противоположные предубеждения. Вместо «надбавки за человека» и «штрафа за ИИ» у них может появляться «надбавка за ИИ» и «штраф за человека» — предпочтение общения с машиной и недоверие к человеческому собеседнику. Этому явлению уделяют меньше внимания, хотя распространённое представление о том, что людям всегда не нравится общение с ИИ, не универсально.

Философ и богослов Фома Аквинский писал, что человеческое спасение требует божественного раскрытия истин, превосходящих разум. В случае с ИИ вопрос раскрытия может выходить за рамки опасений о человеческой предвзятости и упираться в более общий принцип правдивости. Возможно, именно в этом и заключается главный смысл дилеммы.