Мир движется к «фабричному разведению» людей

Профессор Гарварда предупредила о «фабричном разведении людей»

Историк Гарварда Джилл Лепор предупредила, что влиятельные руководители технологических компаний ведут мир к устройству, где ИИ позволит превратить людей в объект «фабричного разведения». В подкасте The New York Times «Жёсткая вилка» она рассказала о концепции «искусственного государства» — системы, которая вытесняет традиционное государство и конституционную демократию, передавая решения машинам, принадлежащим корпорациям. По словам Лепор, такая система ещё не сложилась полностью, но уже создаётся вокруг нас: ИИ участвует в политической коммуникации, обработке данных, наблюдении и принятии решений, а цифровая инфраструктура всё сильнее изолирует людей друг от друга.

Искусственное государство

В новом выпуске подкаста The New York Times «Жёсткая вилка» историк Джилл Лепор объяснила идею «искусственного государства». Она считает, что эта система постепенно вытесняет традиционное государство, а вместе с ним — конституционную демократию и человеческую автономию.

В таком порядке решения принимают не люди и не избранные ими представители, а машины. При этом сами машины принадлежат корпорациям.

Лепор подчёркивает, что искусственное государство пока не стало реальностью в полном смысле. Но его уже создают и внедряют вокруг нас. Кроме того, это политическая фантазия части влиятельных элит, которые считают свою власть более значимой, чем решения правительства и избирателей.

По словам историка, риторика нынешнего периода сводится к исчезновению современной либеральной и конституционной демократии. Продвигающие её элиты не интересуются желаниями людей. А люди, как отмечает Лепор, в действительности не хотят ни ИИ, ни центров обработки данных — в этом и заключается кризис.

Лепор подробно рассматривает эту тему в будущей книге «Взлёт и падение искусственного государства». Её подтолкнул простой вопрос: кто решил, что люди должны жить в мире, где для записи на приём или обращения в службу поддержки компании их заставляют разговаривать с ИИ?

Искусственное государство Лепор описывает как откат, при котором всё больше функций государства переходят к корпорациям. Они владеют цифровой инфраструктурой коммуникаций и контролируют её.

Через эти структуры люди получают новости, узнают о выборах и решают, за кого голосовать. Раньше такую роль играли телевидение и радио, а теперь главным посредником становятся социальные сети.

Цифровые коммуникации, вокруг которых организована повседневная жизнь, усиливают изоляцию. В статье для The New Yorker, опубликованной в 2024 году, Лепор назвала искусственное государство «фабричным производством общественной жизни»: сортировкой и разделением людей, их изоляцией и отчуждением, разрушением человеческого сообщества.

Как ИИ ускоряет процесс

Искусственное государство возникает не только благодаря ИИ, однако ИИ ускоряет его формирование. Люди спрашивают ChatGPT, за кого голосовать, вместо того чтобы обсуждать это с соседями, местными чиновниками или экспертами. Политические сообщения, которые они видят, частично создаются с помощью ИИ.

Решения на всех уровнях всё чаще принимаются при участии машин, способных рассуждать. Одновременно ИИ укрепляет системы наблюдения и обрабатывает огромные массивы данных, которые собирают о людях.

Миф о неизбежности

Лепор считает опасной частью риторики в поддержку ИИ из Кремниевой долины представление о том, что распространение ИИ неизбежно. По её мнению, такой фатализм основан на ложной предпосылке и других сомнительных утверждениях.

Одно из них звучит так: регулирование тормозит инновации, поэтому государству нужно убрать ограничения с развития ИИ. Другое — что технологии всегда укрепляют демократию. Из этого делают вывод, будто реальные угрозы, которые ИИ уже создаёт для демократии, каким-то образом исчезнут сами.

Лепор утверждает, что оба тезиса неверны. Достаточно вспомнить похожие обещания, которые звучали в отношении недавних технологий.

По её словам, представители ИИ теперь повторяют тот же аргумент, который раньше использовали для персональных компьютеров, интернета и социальных сетей.