Берни Сандерс и Стив Бэннон призвали ограничить ИИ на саммите «За человека»

Два подхода к конкуренции с Китаем

На мероприятии Pro-Human Assembly, прошедшем во вторник в Вашингтоне, политические противники сошлись в оценке потенциальных рисков ИИ и необходимости жёстких ограничений для «олигархов» Кремниевой долины.

При этом Сандерс и Бэннон по-разному подошли к вопросу технологического соперничества с Китаем. Дональд Трамп и другие республиканцы ссылаются на эту конкуренцию, оправдывая ускоренное развитие ИИ.

Независимый сенатор от Вермонта Берни Сандерс напомнил, что на следующей неделе Трамп должен принять в Вашингтоне председателя КНР Си Цзиньпина. Сандерс призвал к международной дипломатии и глобальному соглашению с участием Пекина, которое запретило бы разработку сверхинтеллектуальных машин.

По его мнению, сверхинтеллектуальный ИИ, вышедший из-под контроля человека, станет проблемой не только для США или Китая, но и для всего человечества. Поэтому Сандерс выразил надежду, что во время саммита Трамп договорится с Си Цзиньпином о всеобъемлющем договоре: он должен предусматривать паузу в разработке передового ИИ и запрет на создание сверхинтеллекта.

Сенатор сравнил такую ситуацию с переговорами президента США Рональда Рейгана и советского лидера Михаила Горбачёва в разгар холодной войны. Тогда стороны стремились избежать ядерного конфликта и в итоге подписали договор, ликвидировавший целый класс ракет.

Сандерс отметил, что Рейган и Горбачёв понимали: ядерная война не принесёт пользы ни Советскому Союзу, ни США, ни всему миру. Поэтому, когда на кону оказалось выживание человечества, они нашли способ заключить соглашение.

План Бэннона

Стив Бэннон выступил сразу после Сандерса, но не находился с ним на одной сцене. Ведущий подкаста War Room и бывший главный стратег Белого дома при Трампе также использовал сравнение с холодной войной, однако предложил другой выход.

Бэннон призвал к агрессивной экономической и технологической «карантинной» изоляции Китая. Его план включает:

Бэннон спросил, финансировали ли отцы и деды нынешних американцев Советский Союз, обучали ли советских учёных, приглашали ли советских студентов в лучшие американские университеты и позволяли ли им получать лучшие дипломы. Он также поинтересовался, стремилась ли Уолл-стрит заключать с СССР сделки и готовы ли были банки кредитовать его быстрее, чем участников саммита.

По его словам, США ничего этого не делали: вместо этого страна противостояла Советскому Союзу и перекрывала ему доступ к ресурсам. Такой же подход, считает Бэннон, следует применить сегодня к Коммунистической партии Китая: отказаться от сделок и соглашений и вытеснить Пекин из сферы ИИ, закрыв для него технологическую экосистему.

Бэннон потребовал от исполнительной власти немедленных действий для изоляции технологического сектора Китая. Он выступил за прекращение поставок чипов, нелегальной торговли ими и свободного доступа к американским технологиям, а также за запрет на использование американских разработок Китаем.

Только после этого, утверждал Бэннон, у США появится время для обсуждения правильного регулирования технологического сектора.

Критика технологических корпораций

Бэннон резко раскритиковал крупные технологические компании и их руководителей, обвинив их в том, что они ставят общественную безопасность под угрозу ради частной прибыли.

По его словам, Кремниевая долина пытается переложить на американское общество все риски, включая возможные государственные спасательные программы для компаний, а финансовую выгоду оставить себе. Бэннон заявил, что американцы не собираются становиться просителями перед технологическими олигархами.

Он также поддержал низовые кампании, которым ранее удалось остановить законопроекты федерального уровня. Эти инициативы должны были не допустить принятия законов штатов, регулирующих ИИ.

Бэннон давно называет Трампа исторической фигурой и поддерживал его ложное утверждение о том, что президентские выборы 2020 года были украдены. Однако во вторник он лишь вскользь упомянул президента, который называл опасения по поводу ИИ «мистификацией» и «больным заговором».

При этом Бэннон заявил, что для действий в сфере ИИ нужны указы исполнительной власти, а не законы Конгресса.

Сандерс, в свою очередь, раскритиковал Трампа, Конгресс и концентрацию власти в Кремниевой долине. Он отметил, что, несмотря на жизнь в так называемой демократии, общество практически не участвовало в ИИ-революции, меняющей окружающий мир.

По словам сенатора, Конгресс при демократическом и республиканском большинстве бездействовал, а нынешний президент демонстрирует «по-настоящему смущающее» невежество в этом вопросе. Решения о развитии ИИ, считает Сандерс, приняли несколько богатейших людей мира, стремящихся получить ещё больше денег и власти независимо от последствий своей работы для обычных граждан.

Законопроект Сандерса

Сандерс заявил, что на следующей неделе внесёт законопроект о постоянном запрете на разработку искусственного сверхинтеллекта — ИИ-разума, превосходящего любого человека.

Документ также должен предусматривать немедленную паузу в развитии передового ИИ до тех пор, пока не будут установлены чёткие правила безопасности.

Недавние опросы показали, что большинство американцев опасаются: ИИ может использоваться для уничтожения рабочих мест, увеличения расходов семей и других социальных последствий. Жители нескольких штатов также выступили против проектов новых дата-центров — важнейшей части расширяющейся инфраструктуры ИИ.

Саммит Pro-Human Assembly прошёл на фоне растущей обеспокоенности рисками ИИ среди представителей обеих партий. В нём также участвовали члены Конгресса, лидеры профсоюзов и религиозные деятели.

Позиция Грега Касара

Конгрессмен Грег Касар, выступивший соавтором законопроекта вместе с Сандерсом, обвинил миллиардеров от ИИ в масштабных политических расходах, направленных на блокирование регулирования.

Касар заявил, что по мере того, как угроза становится очевиднее, влиятельные люди всё активнее пытаются помешать действиям властей. По его словам, миллиардеры от ИИ тратят миллионы долларов через Leading the Future Pac, чтобы запугивать политиков и заставлять их молчать. При этом ведущие республиканцы, контролирующие Палату представителей, не предпринимают никаких шагов.

Касар добавил, что лидерство США в международной дипломатии по ИИ не означает ожидания соглашения об опасных технологиях. Установить ограничения уже сейчас, считает он, — лучший способ показать готовность добиться такого соглашения.

Сомнения Чипа Роя

Республиканский конгрессмен Чип Рой также выразил сомнения по поводу передачи полномочий исполнительной власти или руководителям технологических компаний.

Он не согласился с заявлением президента, что именно тот должен принимать решения об ИИ, и добавил, что такие решения не должны единолично принимать руководители крупных технологических компаний. При этом Рой отметил, что и Конгресс не должен контролировать все решения в этой сфере.

По его словам, если позволить технологиям фундаментально изменить и перенести механизм принятия решений об обществе и республиканской форме правления, возникает вопрос, что от этой системы вообще останется.