Семь минут с чат-ботом лучше справились со снижением веры в теории заговора, чем справка с фактами, в двух экспериментах

Два эксперимента после громких событий

В течение недели после покушения на Дональда Трампа в июле 2024 года примерно половина репрезентативной выборки жителей США слышала, что нападение было инсценировкой. Одиннадцать процентов участников верили в это. После убийства ультраправого активиста Чарли Кирка в сентябре 2025 года за несколько дней распространились версии о причастности Моссада, операции «ложного флага» и правительственном сокрытии информации.

Исследователи из Carnegie Mellon, MIT и Cornell проверили, могут ли короткие разговоры с большой языковой моделью ослабить такие убеждения сразу после событий. В обоих случаях ответ оказался положительным, причём эффект вышел за пределы исходного эпизода.

Участников набирали через платформу для проведения опросов. С помощью GPT-4o, которой уже больше двух лет, исследователи отобрали людей, выражавших конспирологические убеждения по поводу соответствующего события. В эксперименте о Трампе осталось 472 участника, в эксперименте о Кирке — 1 035.

После оценки исходных убеждений участников случайным образом распределили по трём условиям:

Оба события произошли уже после завершения обучения использованных моделей, поэтому они не могли опираться на внутренние знания о них. Исследователи заранее встроили в системную инструкцию отобранную базу фактов, разделив её на подтверждённые сведения, уже опровергнутые утверждения и вопросы, которые пометили как открытые. В эксперименте о Кирке также разрешили поиск в интернете, но только для проверки фактических утверждений.

Разговоры длились в среднем около семи минут. Они снизили веру участников в собственную теорию заговора в обоих экспериментах — по сравнению и с контрольным разговором, и со справкой. Также реже звучало согласие с утверждениями о «сокрытии или заговоре» и «скрытых или нераскрытых факторах».

В обоих экспериментах вера участников в собственную теорию заговора сильнее снижалась после диалога с LLM, чем после чтения статичного информационного материала

Источник: the-decoder.com

В эксперименте о Трампе доверие к официальному объяснению не выросло. Авторы связывают это с отсутствием ясной официальной версии на тот момент: было известно только, что система безопасности дала сбой, а мотив и прошлое стрелка оставались неясными даже во время подготовки исследования.

В случае с Кирком власти уже раскрыли некоторые сведения о преступнике, поэтому доверие к официальному объяснению немного выросло по сравнению с контрольным разговором. Однако отличие от группы, получившей справку, оказалось статистически незначимым. Диалог о Кирке также не повлиял заметным образом на поддержку политического насилия.

Как модель меняла убеждения

Чтобы понять, за счёт чего модель убеждала участников, исследователи разделили её ответы на отдельные предложения. Оказалось, что модель заметно меняла подход в зависимости от доступного объёма фактов.

При обсуждении покушения на Трампа модель опиралась на эпистемологическое смирение, критический анализ источников и сократический метод, тогда как в случае классических теорий заговора она в большей степени использовала фактические аргументы

Источник: the-decoder.com

В ситуации с покушением на Трампа, когда о мотивах и прошлом стрелка почти ничего не было известно, модель реже прибегала к рациональному убеждению, чем в разговорах о классических теориях заговора. Вместо этого она:

При убийстве Кирка информации было больше, и подход сильнее напоминал разговоры о распространённых теориях заговора. В ответах чаще подчёркивался общественный вред конспирологического мышления.

Эффект на новые события

Диалог с проверкой фактов повлиял и на восприятие последующих событий. Через два месяца после первого покушения на Трампа на его территории задержали другого вооружённого человека. Участники, прошедшие такой диалог, реже соглашались с тем, что правду знают лишь несколько влиятельных людей или что её скрывают от общества.

Эффект сохранялся с течением времени. Участники группы, получавшей опровержение, считали, что последующие события с меньшей вероятностью были связаны с сокрытием правды, хотя для стрельбы в тауншипе Гранд-Блан эта разница не сохранялась

Источник: the-decoder.com

Через две с половиной недели после убийства Кирка в городке Гран-Бланк, штат Мичиган, произошли стрельба и поджог в церкви Иисуса Христа Святых последних дней. Через одиннадцать дней исследователи снова опросили участников. Основной анализ не выявил статистически значимого прямого эффекта для этого события.

Дополнительный анализ показал, что часть исходного эффекта всё же сохранилась в конспирологических версиях вокруг нападения на церковь. Перенос сильнее проявился в общих конспирологических убеждениях: люди, разговаривавшие с моделью, реже соглашались с распространёнными теориями заговора.

По сути, вмешательство с проверкой фактов сработало как предварительное развенчание будущих ложных утверждений. При стандартном предварительном развенчании людей заранее предупреждают о дезинформации и показывают её ослабленную версию. Здесь же эффект возник без такой подготовки.

Авторы подчёркивают, что их работа остаётся отдельным исследованием. Бывают кризисы, в которых такой подход не сработает, а иногда заговор действительно существует — и тогда его опровержение окажется ошибочным. Исследователи также ссылаются на свою более раннюю работу: похожие диалоги могут действовать в обратную сторону и убеждать людей в конспирологических версиях. Для новых, только возникающих теорий заговора это создаёт риск злоупотреблений.

Разумеется, человек должен сначала согласиться обсуждать свои убеждения с языковой моделью. Но если он вступает в такой разговор, даже короткая беседа может дать измеримый результат при небольшом количестве контраргументов.

Два года назад та же команда снизила веру в устоявшиеся теории заговора примерно на 20 процентных пунктов с помощью разговоров с GPT-4. Эффект оставался заметным через два месяца и распространялся на версии, которые вообще не обсуждались в диалоге. Новизна нынешней работы — проверка подхода на свежих событиях, когда фактов было мало.

Почему разговор оказался эффективнее справки, ранее изучали в исследовании почти с 77 000 участников. Диалог с языковой моделью оказался на 41–52% убедительнее короткого текстового сообщения. Решающее значение имело количество утверждений со ссылками на источники, а не сложные разговорные приёмы. Тот же механизм можно использовать против людей — это показал несанкционированный эксперимент Цюрихского университета на Reddit.