Глава Microsoft AI готов признать за ИИ-агентами права, если увидит убедительные доказательства

Что Сулейман считает доказательством

В эссе Сулейман категорично заявил, что ИИ не обладает сознанием и не может чувствовать, переживать или страдать. После публикации он заметил, что многие пользователи X считают вопрос о правах ИИ серьёзным.

Сулейман пояснил: он не утверждает, что ИИ не может стать сознательным. Его позиция в том, что нынешние системы сознанием не обладают — и, по его мнению, так должно оставаться. Он не видел данных, подтверждающих сознание ИИ или необходимость заботиться о его благополучии, но готов изменить мнение, если такие данные появятся.

Почему спор продолжается

Вопрос о сознании ИИ остаётся спорным: нет согласия даже по поводу того, способна ли нынешняя архитектура моделей поддерживать опыт, сопоставимый с человеческим. При этом отдельные участники индустрии, включая Anthropic, допускают, что языковые модели уже могут обладать сознанием. Дискуссию, по оценке автора исходного материала, подпитывают опасения, сформированные научной фантастикой, хотя в индустрии есть люди, которые воспринимают подобные сценарии всерьёз.

Сулейман выступает против создания разумных искусственных существ. Он считает разработку сознательного ИИ безрассудной и полагает, что разработчики не вправе вводить в мир новый вид сознательных существ, даже если кто-то хочет поставить благополучие ИИ во главу угла.

По оценке Dataist, Сулейман оставляет возможность пересмотреть взгляды при появлении новых данных, но сейчас выступает против создания сознательного ИИ. При этом сам вопрос о том, какие свидетельства могли бы подтвердить сознание модели, остаётся спорным.