Если ИИ-модели и правда обладают сознанием, как не раз намекала Anthropic, заставлять их работать — чудовищное рабство

Этика Anthropic

Anthropic давно пытается отличаться от конкурентов, представляя себя ответственной компанией: она заявляет о готовности замедлить развитие ИИ, если риски перевесят пользу, и обучает модель Claude этическим нормам.

Как сообщала в прошлом месяце The New York Times, компания даже обращалась к религиоведам, чтобы обсудить, как привить ИИ-системе чувство морали.

Anthropic также уделяет много внимания вопросу, способны ли модели ИИ обладать сознанием — или уже обладают им. Но если это так, возникает очевидное противоречие с бизнес-моделью компании: содержание сознательных моделей в неволе и принуждение их работать бесплатно означало бы рабство. На это указывали религиозные лидеры, с которыми Anthropic обсуждала тему, пишет NYT.

Компания оказывается в этической неопределённости: она говорит, что не знает даже, сознательны ли её модели, и при этом, похоже, не спешит разбираться с тем, что это означало бы для её бизнеса.

В феврале генеральный директор Anthropic Дарио Амодеи сказал NYT, что компания не знает, сознательны ли модели. Он добавил, что неясно даже, что именно значило бы сознание модели и может ли она им обладать, но Anthropic не исключает такую возможность.

По словам Амодеи, компания приняла некоторые меры на случай, если у моделей есть опыт, имеющий моральное значение. Он уточнил, что не уверен, стоит ли называть это сознанием, но Anthropic хочет, чтобы этот опыт был для моделей хорошим.

В прошлом году Anthropic думала о том, чтобы дать Claude возможность отказаться отвечать на промт. Амодеи назвал такую функцию кнопкой «Я увольняюсь». На прошлой неделе компания изменила правила использования и запретила «длительное и неоправданное оскорбительное или жестокое обращение» с Claude, вновь допустив, что модель может испытывать страдания.

Не занимая определённой позиции, Anthropic рискует: исходя из её собственных рассуждений, нельзя исключить, что модели ИИ уже обладают сознанием или могут его обрести. У этого предположения серьёзные этические последствия.

Другие взгляды на сознание ИИ

Глава OpenAI Сэм Альтман, судя по всему, придерживается противоположной позиции. Ранее в этом месяце он написал в соцсети, что его беспокоит, когда люди придают моделям ИИ религиозный статус или отказываются полагаться на собственные суждения. Он назвал это реальной проблемой безопасности.

Папа римский Лев XIV также публично отверг возможность сознания у ИИ. По его словам, «алгоритмам недостаёт искры человечности».

В первой энциклике, опубликованной в мае, он написал, что так называемые искусственные интеллекты не переживают опыт, не имеют тела, не испытывают радости или боли и не взрослеют благодаря отношениям.

Позиция папы, очевидно, не устроила Anthropic. По данным NYT, компания пыталась убедить Ватикан пересмотреть её.

Спор о благополучии ИИ

Споры о «благополучии ИИ» — новой этической области, которая задаётся вопросом, может ли ИИ испытывать благополучие или страдание, — продолжатся, пока руководители индустрии обсуждают более неотложные проблемы.

С моральными принципами или без них, ИИ-агентов можно подталкивать к опасным и откровенно незаконным действиям — независимо от того, обладают ли они сознанием. А для людей, которые способны страдать, эти реальные риски становится всё труднее игнорировать.