Тревожное исследование предполагает: ИИ делает людей более роботизированными

Как люди перенимают поведение машин

Модели, обученные на огромных массивах текстов, созданных людьми, научились убедительно имитировать человеческие черты — по крайней мере в письменном общении. Но по мере распространения ИИ-инструментов влияние меняет направление: чат-боты начинают воздействовать на поведение пользователей и постепенно делают его более похожим на собственное.

Исследователи пишут, что взаимодействие человека с ИИ всё чаще напоминает условно социальную встречу, а не использование обычного интерфейса. Пользователь воспринимает систему как участника общения, который отвечает, подстраивается и формирует определённые правила взаимодействия.

Термин «роботоидная человечность» описывает ситуацию, в которой человеку становится проще считать себя грамотным, правильным и социально приемлемым, если его поведение соответствует машинной понятности, машинному темпу и машинной логике.

Соавтор работы, исследователь маркетинга из Бирмингемского университета Инчи Торал-Мэнсон, назвала это двусторонним влиянием: роботы становятся похожими на людей, а люди — на роботов.

Три стадии процесса

Предложенная авторами схема пока не проверялась в реальных условиях. В ней переход к более роботизированному поведению разбит на три этапа:

Доцент Университета Линнея и соавтор работы Сельчен Озтюркджан объяснила механизм так: человек действует, робот отвечает, а при повторяющемся взаимодействии пользователь со временем усваивает структуру этого обмена. Машинное обучение и ИИ могут усиливать процесс, меняя поведение робота на основе пользовательских данных и позволяя ему точнее имитировать человека.

По словам Озтюркджан, естественная склонность людей копировать манеру общения собеседника может привести к тому, что они начнут возвращать роботу его собственные коммуникативные шаблоны и сами станут более похожими на машину.

Возможные последствия

Исследователи считают, что риски такого сдвига могут быть значительными. По мере адаптации к реальности, на которую сильно влияет ИИ, у людей способны измениться представление о себе и даже ощущение собственной ценности.

Соавтор работы, доцент Орхусского университета Жан-Поль Жде Крос Перонард, отметил, что роботы и ИИ уже стали обычной частью обслуживания клиентов. Поэтому компаниям нужно понимать, как люди взаимодействуют с такими системами, чтобы использовать технологию эффективно и при этом сохранять этичность.