Один из ключевых ингредиентов безопасности ИИ — демократия

Безопасность ИИ зависит от политического устройства

Ещё недавно риски искусственного интеллекта обсуждали в основном специалисты по технологиям и футурологи. Теперь о них говорят и во властных кабинетах, и за семейным столом: опасения охватывают кибератаки, массовое убеждение людей и непредсказуемое поведение систем.

Разговор вышел за рамки привычной безопасности. Обсуждают влияние ИИ на экономику и окружающую среду, а также способы реагирования — от исследований в области согласования целей ИИ с человеческими до государственного регулирования.

Общественная дискуссия расширилась вовремя: недавние новости об инцидентах с безопасностью ИИ показывают, что риски уже реальны. Но в обсуждении пока не хватает одного важного условия безопасности — конституционной демократии.

Представим, что мощная система ИИ уже создана и безопасна в привычном смысле: она не может выйти из-под контроля людей, организовать кибератаку, создать биологическое оружие или управлять роботами-убийцами. Теперь поместим её в два разных политических устройства — демократическое и авторитарное.

В здоровой демократии — конституционной республике со свободными и честными выборами, защищёнными гражданскими свободами и надёжным верховенством закона — ИИ может принести большую пользу. Он способен ускорить развитие науки и медицины, расширить доступ к образованию и поддержать экономическое благополучие. При подходящих условиях ИИ может укрепить и саму демократию: помочь гражданам быть услышанными, улучшить выработку политики, сделать государственные услуги эффективнее и подотчётнее.

В авторитарном государстве всё меняется. ИИ становится средством слежки, цензуры, пропаганды, политического подавления и укрепления власти. Это уже происходит в Китае, России, Иране, Венесуэле, нескольких государствах Персидского залива и других странах.

Сопоставление этих сценариев показывает: безопасный ИИ невозможен без защиты конституционной демократии и верховенства закона. Не имеет значения, насколько безопасна система сама по себе: при авторитарном правлении люди не будут в безопасности. Иными словами, безопасность ИИ требует политической свободы.

Поэтому, считает Ботвиник, необходимо обратить вспять отступление демократии, происходившее во всём мире последние два десятилетия. В США к этому добавилось постепенное ослабление конституционных ограничений при администрациях обеих партий.

Защита демократии всегда была достойной целью. С приближением эпохи ИИ она стала срочной задачей.

Как ИИ может ослабить демократические институты

Сам ИИ создаст дополнительную нагрузку на демократические институты. Изменения на рынке труда могут усилить экономическую неуверенность и открыть дорогу демагогам самых разных взглядов.

ИИ также может провоцировать кризисы национальной безопасности — например, кибератаки. В ответ правительства получат больше поводов вводить чрезвычайные полномочия, от которых власти после введения редко отказываются. А внедрение ИИ в работу исполнительной власти может нарушить традиционную систему сдержек и противовесов и увеличить риск политической слежки.

В более отдалённой перспективе, если ИИ заменит большинство рабочих мест — такой исход беспокоит экономистов Дэниела Сасскинда и Антона Коринека, — обычные граждане рискуют потерять влияние на тех, кто ими управляет. Подсказку дают современные нефтедобывающие государства: власти, которым не нужно получать доход от налогообложения труда граждан, часто пренебрегают правами этих же граждан.

Первым шагом к снижению рисков Ботвиник предлагает обновить законодательство: ограничить полномочия исполнительной власти, реформировать законы о чрезвычайных ситуациях и слежке, а также обеспечить надлежащую правовую процедуру, сузив условия применения привилегии государственной тайны.

В США это, например, потребовало бы пересмотреть Закон о чрезвычайных ситуациях и Закон о международных чрезвычайных экономических полномочиях, а также закрыть лазейку с «посредниками по данным» в разведывательной деятельности. По мере того как исполнительные ведомства начинают применять ИИ, Конгресс и суды тоже следует обеспечить столь же мощными инструментами ИИ, чтобы их надзор поспевал за действиями ведомств.

Сам принцип давно известен. Джеймс Мэдисон писал, что «честолюбие должно сдерживать честолюбие» — теперь эту идею предстоит применить в цифровой среде.

В долгосрочной перспективе, чтобы избежать широкого лишения граждан политического влияния, потребуется обновить традиции самоуправления и активнее привлекать людей к разработке политики и надзору за государством. При удачном развитии событий ИИ может помочь: упростить доступ к информации и дать гражданам возможность совместно рассуждать — словно на городских собраниях цифровой эпохи.

Укреплять политическую свободу таким образом важно само по себе. Теперь это также часть работы по обеспечению безопасности ИИ.

От реформ к ответственности ИИ-индустрии

Продвигать необходимые реформы должны политики, общественные организации и обычные граждане. Но есть и ещё один важный участник — ИИ-индустрия. Крупные лаборатории готовы высказываться по отдельным вопросам политики, однако в последнее время большинство из них почти не говорит о демократии.

За прошедший год ряд руководителей ИИ-компаний обоснованно выступал за то, чтобы оснастить армию и разведывательные службы ИИ и дать демократиям возможность конкурировать за рубежом. Но в обсуждении состояния демократии внутри собственных стран те же руководители почти не участвуют.

Технологические компании не всегда хранили молчание. В 2013 году Apple, Google, Microsoft, Facebook, Twitter, Yahoo, LinkedIn и AOL вместе опубликовали открытое письмо президенту и Конгрессу. Они заявили, что методы государственной слежки «слишком сместили равновесие в пользу государства и против прав человека — прав, закреплённых в нашей Конституции».

В 2018 году Microsoft публично призвала Конгресс ограничить использование государством технологий распознавания лиц. Компания предупредила, что не должна допустить превращения 2024 года в страницу из романа «1984».

Ещё в 2021 году компании Alphabet, Amazon, Apple, Facebook, IBM, Microsoft и Twitter опубликовали открытое письмо против предложенных изменений законов штатов о выборах и заявили, что выступают за демократию.

В последнее время многие технологические компании замолчали. Это объяснимо: они отвечают перед инвесторами, а сейчас публичные заявления могут поставить под угрозу стоимость акций.

Но этим история не должна заканчиваться. Ведущие лаборатории ИИ называют безопасность центральной частью своей миссии. Если они говорят об этом всерьёз, то, несмотря на коммерческие риски, обязаны защищать основные конституционные принципы — по причинам, которые изложил Ботвиник.

Журналисты, исследователи и обычные граждане могут помочь компаниям увидеть эту обязанность, постоянно напоминая о связи безопасности и свободы.

Хорошо, что люди за пределами ИИ-индустрии наконец заговорили о безопасности ИИ. ИИ повлияет на всех, поэтому каждый должен участвовать в обсуждении того, как его создавать и применять.

Но политическую свободу необходимо сделать одной из центральных тем этой дискуссии. Общественности важно понимать: безопасность ИИ зависит от демократии. Только помня об этой связи, можно избежать опасностей ИИ и получить его потенциально огромную пользу.

Мэттью Ботвиник — автор готовящейся к выходу книги «ИИ и политическая свобода» и старший научный сотрудник Йельской школы права. Он занимал несколько исследовательских должностей в ИИ-индустрии, в том числе в Google DeepMind, и сейчас работает в Anthropic. В этой статье он выступает исключительно в качестве сотрудника Йельского университета.