Эксперты предупреждают: люди могут стать пустыми оболочками под контролем ИИ

Джей Чуи, основатель и генеральный директор Robocurve — общественно полезной компании, изучающей роль роботов на рабочих местах, — назвал постепенную утрату самостоятельности своей главной тревогой. По его словам, многие чувствуют бессилие перед этой проблемой: для её решения нужны большие усилия и участие всего общества.

Ян Кулвейт, исследователь Центра теоретических исследований Карлова университета и соавтор работы, в которой появился термин «постепенная утрата самостоятельности», отметил, что это явление не обязательно возникает из-за намеренного плана ИИ-систем захватить власть. В краткосрочной перспективе его поддерживает ожидаемая польза, которую ИИ может принести экономике, культуре и государственным институтам, написал он в статье.

Как ИИ замещает человеческое мышление

Некоторые уже замечают эту зависимость в повседневной жизни. Людей, которые поручают ИИ всё — от выполнения дел до планирования, — высмеивают как «мясных посредников». Другие настолько не задумываются о последствиях, что доверяют ИИ планирование похода и оказываются в ловушке на печально известной опасной горе.

В крайнем сценарии ИИ и роботы заменяют людей на рабочих местах, становясь более дешёвой и эффективной рабочей силой. Компании, которые сохраняют сотрудников, могут не выдержать конкуренции. Но для вреда не обязательно развитие событий по такому драматичному сценарию. Эксперты уже замечают у пользователей ИИ, особенно у студентов, «когнитивную капитуляцию»: они позволяют инструментам ИИ подменять собственное мышление. Исследования связывают зависимость от ИИ с ослаблением навыков критического мышления и показывают, что при выполнении умственных задач, например написании эссе, активность мозга снижается.

Когда общество попадает в этот замкнутый круг, выбраться из него становится труднее. Маргарет Митчелл, научный сотрудник в области ИИ в Hugging Face, объяснила: если люди перестают тренировать навыки, которые за них выполняют агенты, они утрачивают эти навыки и становятся зависимыми от систем. Если что-то пойдёт не так, может не оказаться человека, способного это исправить. Тогда людям придётся полагаться на то, что ИИ-системы смогут исправить себя сами, а это может оказаться невозможным.

ИИ уже влияет на решения с серьёзными последствиями — а иногда принимает их. По сообщениям, система наведения на цели с ИИ участвовала в принятии решения разбомбить школу для девочек в Иране. Погибли более 150 человек, большинство из них — дети. Также сообщалось, что Дональд Трамп решил вторгнуться в Венесуэлу и захватить её президента Николаса Мадуро после разговора с Grok от Илона Маска.

Чуи отметил, что многие опасаются сценариев, в которых ИИ выходит из-под контроля, взламывает центры обработки данных и захватывает мир. При этом, по его словам, люди недостаточно осознают, что ИИ может прийти к такому результату, просто продолжая выполнять свою задачу — автоматизировать всё.