Папа Лев выступил против признания ИИ личностью

Лев XIV назвал юридическую личность для ИИ подходом, который может перенести ответственность за вред или злоупотребления с людей на системы. По его словам, будущее ИИ не предопределено: технология создана людьми, и её дальнейшее развитие зависит от их решений. Люди должны направлять и менять способы её применения, а при необходимости — отказываться от них. Надёжная система, служащая человеку, ценнее чрезвычайно мощной, но непредсказуемой и неподконтрольной.

Папа подчеркнул, что машины — инструменты, а не личности. Предоставление им прав или юридического статуса может затуманить вопрос об ответственности и заставить пострадавших обращаться к безличной организации.

Лев не единственный, кто выражает подобные опасения. Юристы, активисты и законодатели также выступали против юридической личности для ИИ. Они указывают, что права для ИИ-систем — например, право на свободу слова по Первой поправке к Конституции США — могут запутать вопрос о том, кто отвечает, если что-то пойдёт не так. В результате может возникнуть ситуация, в которой ни один человек не будет явно отвечать за последствия действий, совершённых с помощью ИИ или самой системой.

При этом многие представители индустрии ИИ и связанные с ней люди продолжают утверждать, что системы уже обладают или вскоре могут обладать сознанием. Некоторые из них считают, что поэтому ИИ следует предоставить права человека. Как сообщала The New York Times в прошлом месяце, этим летом представители Anthropic, создателя Claude, провели ряд встреч с религиозными лидерами и призывали священнослужителей рассмотреть возможность того, что модели ИИ действительно могут быть сознательными.

Однако эти встречи, похоже, не изменили позицию папы. Он неоднократно выражал серьёзную обеспокоенность развитием ИИ без ограничений. Лев также уделяет большое внимание распространению автономного оружия и в своей публикации вновь призвал «разоружить» ИИ.

По словам папы, решения, влияющие на человеческую жизнь и свободу, а также применение силы должны оставаться под эффективным, информированным и ответственным надзором людей. В следующей публикации он добавил, что интеллектуальные технологии необходимо направлять на общее благо: они не должны становиться самоцелью или служить лишь интересам привилегированного меньшинства.

Лев отметил, что этические принципы для разработки ИИ уже известны. Теперь, по его словам, нужны эффективные международные институты, способные защищать общее благо во всём мире.

Для этого, заключил папа, необходимы общие стандарты, независимый надзор и ясные механизмы ответственности. Они должны позволять проверять решения о разработке и использовании ИИ, оспаривать их при необходимости и обеспечивать надлежащие способы возместить причинённый вред.