Главная угроза ИИ — ощущение, что мы ничего не решаем. На это я отвечу: игра началась

Неизбежность как политический инструмент

Одно из главных условий роста популизма — ощущение, что ход прогресса уже предрешён. Когда будущее преподносят как свершившийся факт, граждан исключают из принятия решений и подрывают общественное доверие.

Источник: theguardian.com

США сохраняют статус старейшей конституционной демократии, но союз технологических лидеров с Белым домом создаёт собственную реальность ИИ, не связанную с волей граждан.

Дональд Трамп и руководители технологических компаний считают, что ради победы в туманно определённой гонке за созданием «бога в коробке» нужно ускорить развитие технологий и отказаться от защитных ограничений. Такое применение власти угасающей империи навязывает эту реальность всем остальным.

Австралийское правительство решило, что в столь хаотичном мире контролировать ситуацию можно, только ухватившись за этот стремительно набирающий ход процесс. Страна становится поставщиком данных для американских технологических компаний — примерно как Саудовская Аравия поставляет нефть. В пустыне на возобновляемой энергии строят огромные дата-центры: солнечное электричество превращают в токены для ИИ и отправляют их в Азию, создавая новую экспортную отрасль, которая, как предполагается, будет поддерживать общее благосостояние.

В рамках доктрины неизбежности у этой стратегии есть своя логика. Австралийцам говорят, что иначе страна превратится в зависимое государство Кремниевой долины. Но, следуя этому замыслу, можно не заметить вполне предсказуемых последствий.

Отрасль, которую строят сейчас, получает прибыль, замещая работников. Она основана на использовании украденных работ авторов и художников, а бесконтрольное внедрение ИИ причиняет тяжёлый вред, особенно в зонах военных конфликтов. Технология требует огромных объёмов энергии и воды, и даже её создатели признают, что она может уничтожить человечество.

Доктрина неизбежности требует не изучать последствия и обсуждать компромиссы, а просто смириться. Такая видимость демократии вызывает популистский отпор. В США правые сторонники Стива Бэннона и левые сторонники Берни Сандерса объединяются, чтобы остановить масштабное строительство дата-центров. Это часть более широкого и своевременного политического пересмотра курса.

Сопротивление в Австралии

За последние недели появились признаки, что нечто похожее начинается и в Австралии.

Австралийцы активно используют некоторые инструменты ИИ, но остаются среди самых скептически настроенных в мире и плохо относятся к вседозволенности технологических лидеров. Успешная кампания GetUp против партнёрства сети Coles с Palantir показала, насколько уязвимы известные бренды, если слишком тесно сотрудничают с такими компаниями. Palantir лицензирует свои программы американским военным, которые бомбят детей, и иммиграционным службам, отслеживающим людей.

Кейла Томпсон с участниками группы, выступающей против строительства дата-центра Firmus AI в Сент-Леонардсе, Тасмания

Источник: theguardian.com

Авторы и художники, чьи работы использовали для обучения моделей, способных обесценить их будущую карьеру, тоже отстаивают свои права. Их возмущение оправданно: они не собираются без возражений принимать амнистию за использование работ. Они требуют компенсации и постоянного механизма, который позволит им контролировать условия использования своего творчества.

Возможно, ещё показательнее провал первичного публичного размещения акций Firmus. Оно должно было стать крупнейшим в Австралии после размещения Telstra. Решение не выводить компанию на биржу последовало за отказом от проекта дата-центра в Сиднее — первого крупного проекта, остановленного из-за давления местного сообщества. У провала могли быть разные причины, в том числе обвинения в жадности, но растущее недовольство дата-центрами наверняка заставило некоторых задуматься о перспективах их масштабного строительства.

Потребители, авторы и местные сообщества оспаривают рассказ о неизбежности. Вместе их действия складываются в серию ответных ударов и показывают, что демократический потенциал общества ещё не исчерпан.

Однако доктрина неизбежности живуча, и сопротивляться ей придётся постоянно. У этих компаний достаточно ресурсов и влияния, а собственные интересы они готовы отстаивать с упорством вышедшего из-под контроля ИИ-агента.

Право решать

Главная опасность ИИ для демократии — не только циничное применение непроверенных и нерегулируемых технологий, хотя оно принесёт огромный вред. Опаснее ощущение, что люди никак не могут повлиять на происходящее с ними. Сейчас борьба только начинается.

В ближайшие недели в австралийском парламенте будут спорить о реформе приватности, цифровой обязанности заботы, стандартах для дата-центров и правилах применения технологий государством к гражданам. На рабочих местах пойдут споры об использовании ИИ, наблюдении за сотрудниками и вытеснении работников. В школах и кругах общения люди будут договариваться, пользоваться ли ботами и агентами — и нужно ли ими пользоваться вообще.

Льюис признаёт, что всё это утомляет и подавляет. Именно на это и рассчитывают технологические лидеры и их высокооплачиваемые сторонники: что люди выдохнутся и укроются в пользовательских сервисах, созданных для удовлетворения любых желаний.

Но сопротивление реально. Пока Австралия остаётся демократией, граждане смогут на выборах потребовать от тех, кто претендует на руководство страной, оспаривать представление о неизбежности. Неизбежность — тоже выбор.

Питер Льюис — неисполнительный председатель Essential, прогрессивной компании в сфере стратегических коммуникаций и исследований, проводившей качественные исследования для Лейбористской партии на последних федеральных выборах. Он ведёт еженедельный подкаст Burning Platforms. Его колонки отмечены знаком Proudly Human.