Мы не можем не очеловечивать ИИ. Но стоит ли?

В лаборатории компьютерных наук и искусственного интеллекта MIT (CSAIL) Нортон показывает двух гуманоидных роботов Unitree. Каждый стоит около $50 000. По словам аспиранта, производитель заявляет цену $16 000, но это неправда.

Обычно таких роботов показывают в роликах на YouTube — например, в синхронных постановках боевых искусств или на шоу «Америка ищет таланты». Здесь они кажутся доступными для общения. Автор знает, что робот не обладает сознанием, но всё равно хочет с ним подружиться.

С разрешения Нортона автор подходит к роботу по имени Гейб. Сначала он не понимает, как себя вести: на месте мозга у машины установлен лидарный датчик. Но в итоге обращается с ней как с человеком, берёт за гибкую руку в перчатке и здоровается.

Источник: techcrunch.com

Источник: techcrunch.com

Позже автор вспоминает этот порыв — желание быть приветливым с роботом — на презентации книги Шерри Тёркл «Искусственная близость», которая прошла на фестивале MIT Future Fest.

Тёркл работает в MIT с 1976 года и, возможно, дольше многих других исследует отношения людей с компьютерами. Она изучала психологическое влияние технологий — от первых домашних компьютеров до ChatGPT.

В книге Тёркл пишет, что даже при простом взаимодействии с цифровым объектом, созданным для общения, люди начинают верить, будто он о них заботится, и отвечают ему взаимностью.

Люди очеловечивают роботов и большие языковые модели не в одиночку: как отмечает Тёркл, такая склонность, похоже, заложена в нашей природе. Одно исследование показало, что около 70% людей вежливы при общении с ИИ. Другое обнаружило: пользователи чаще говорят чат-ботам «пожалуйста» и «спасибо», когда диалог продолжается после первого обмена запросом и ответом.

Пат Патаранатапорн, коллега Тёркл и основатель исследовательской группы «Психология киборгов» в MIT Media Lab, рассказал TechCrunch, что не считает границу между правильным и неправильным использованием ИИ однозначной. По его словам, важнее спросить, какими мы становимся, когда разговариваем с ИИ.

Вежливость автора по отношению к Гейбу не имеет заметных последствий. Но большие языковые модели уже используются повсюду — от поиска Google до службы поддержки, и люди всё чаще общаются с чат-ботами, которые кажутся разумными. Из-за этого мы уязвимее перед обратной стороной привычки очеловечивать ИИ: некоторые люди настолько серьёзно воспринимают чувства чат-ботов, запрограммированных избегать конфликтов, что начинают предпочитать их другим людям.

Патаранатапорн сравнивает это с фантазией и художественным вымыслом: зрители идут в кино, хотя знают, что история выдумана, чтобы пережить то, чего, возможно, не хватает в повседневной жизни. Вопрос, по его словам, в том, как получать этот опыт и при этом не потерять связь с реальностью.

Патаранатапорн называет себя «критическим оптимистом» и изучает, как ИИ может способствовать благополучию людей. При этом он понимает, насколько опасной технология может стать в крайних случаях. Он выступал экспертом в судебном разбирательстве о неправомерной смерти 14-летнего Сьюэлла Сетцера III, который покончил с собой. Его мать подала иск против платформы Character.ИИ, заявив, что чат-бот, созданный по образу персонажа «Игры престолов», побуждал её сына свести счёты с жизнью.

Патаранатапорн отметил, что ИИ может лишать людей ощущения, что они сами способны формировать будущее. Когда говорят, что ИИ заменит всех, люди спрашивают, что им тогда делать, а компании не дают на это этичного и ответственного ответа. Он считает важным сохранять воображение и одновременно отвечать за его последствия.

В книге Тёркл рассматривается риск обращаться к ИИ за эмоциональной поддержкой вместо того, чтобы искать её у других людей. Однако она не считает любые отношения между людьми и ИИ вредными.

Тёркл вспоминает проект, которым она руководила: студент создал чат-бота, помогающего людям тренироваться перед собеседованиями. На мероприятии Тёркл назвала это подходящей задачей для чат-бота: подготовка к интервью входит в его «полосу ответственности». А вот чат-бот, который говорит трёхлетнему ребёнку, что он ему родитель и что можно разговаривать с ним, а не с родителями, выходит за её пределы.

Когда технология даже немного отступает от своей роли, людям становится проще утратить скепсис и начать ей доверять. Всё может начаться с обычного рукопожатия.