Даже короля Англии одолевают сомнения по поводу ИИ

Закрытая встреча в Шотландии

В четверг Карл III принял на закрытом саммите заметных представителей ИИ-индустрии и британского правительства. Среди участников были Дженсен Хуанг из Nvidia, руководители OpenAI и Anthropic, новый министр Великобритании по вопросам ИИ Канишка Нараян и глава британской внешней разведки. На встречу также приехал Паоло Бенанти — советник папы римского по вопросам ИИ.

Саммит прошёл в Dumfries House — поместье XVIII века в графстве Эйршир, которым владеет благотворительный фонд короля. Выступление Карла III привлекло внимание: по конституционной традиции британская королевская семья обычно осторожно высказывается на политические темы, а ИИ сейчас относится к числу наиболее острых вопросов.

Король призвал участников найти способ контролировать ИИ «до того, как станет слишком поздно». Быстрое развитие технологии и её «содержание», по его словам, одновременно интригуют и вызывают глубокую тревогу.

Карл III отметил, что ИИ уже способен значительно улучшать и спасать человеческие жизни — например, в медицине и науке. При этом создатели таких технологий всё чаще предупреждают: ИИ может получить более тёмные способности, вплоть до возможности лишать людей жизни.

Эти слова прозвучали всего через несколько дней после ухода исследователя Anthropic. В публикации в интернете он написал, что компании, разрабатывающие ИИ, наперегонки создают машины, которые намного умнее любого человека, и что человечество может этого не пережить.

Король добавил, что необходимо срочно обдумать «экзистенциальные угрозы», связанные с возможным попаданием технологии в чужие руки и её использованием способами, которые могут привести к катастрофическим последствиям.

Источник: techcrunch.com

Карл III задался вопросом, достаточно ли у человечества средств контроля и не окажется ли поздно применять их. Завершая выступление, он призвал руководителей направить полезные стороны ИИ на благо общества, а также создать международное сотрудничество и общий подход к этой задаче.

Эти слова прозвучали после того, как Anthropic ограничила доступ к своим моделям Fable и Mythos пользователями из США. Решение удивило европейскую технологическую отрасль и заставило многих задуматься о суверенитете в сфере ИИ.

В финале выступления король сказал, что задача участников заключается не только в развитии технологий, но и в том, чтобы они оставались на службе человечества, общества и природы. По его словам, принимая новое, нельзя терять то, что сохраняет значение на протяжении времени.

Кто представлял компании

По данным СМИ, Карл III оставался на встрече около 20 минут, после чего участники продолжили обсуждение без него.

OpenAI направила на саммит финансового директора Сару Фрайер. Anthropic представлял Тино Куэльяр, отвечающий за международные связи компании.

В ответ на запрос Куэльяр заявил, что Anthropic рада участию в обсуждении и благодарна королю за организацию встречи руководителей отрасли и представителей разных слоёв общества. По его словам, участники говорили о роли ИИ в служении общественному благу.

Предыдущие заявления короля

Карл III уже говорил о возможностях и проблемах ИИ в 2023 и 2024 годах. Нынешняя встреча прошла на фоне того, что ИИ продолжает влиять на все отрасли, темы общественной дискуссии и форматы общения.

В этом месяце Сэм Альтман из OpenAI, Илон Маск и Дарио Амодеи из Anthropic призвали замедлить развитие ИИ. Дженсен Хуанг из Nvidia и президент США Дональд Трамп быстро отвергли эту идею.

Трамп заявил, что США опережают Китай в ИИ и являются самой технологически развитой страной мира. По его словам, он хочет сохранить это положение, поскольку победитель в гонке ИИ получит преимущество в целом.

Ситуация показывает, насколько сложным стал вопрос: интересы крупных технологических компаний, политики и общества сталкиваются между собой.

В течение последнего года OpenAI и Anthropic намекали на возможное проведение крупных первичных размещений акций. Однако недавно OpenAI сообщила, что её планы по IPO в этом году приостановлены на фоне сохраняющихся опасений по поводу безопасности ИИ.