Почему Британии не стоит поддаваться соблазну дешёвого — и пугающего — китайского ИИ

Источник: theguardian.com

В западных странах разработку ИИ хотя бы частично сопровождают мерами безопасности и стремлением использовать технологию во благо. Китайские модели, которые почти бесплатно предлагают компаниям и государственным учреждениям на Западе, подобных гарантий не дают.

Китайские разработчики ИИ, в том числе DeepSeek и Xiaomi, каждый месяц выпускают новые открытые модели. Пользователи могут взять основное программное обеспечение и применять его без дорогой постоянной лицензии.

В Британии охотно покупают дешёвую китайскую технику, обычно не слишком задумываясь, как и кем она произведена.

Споры о том, стоит ли беспрепятственно пускать китайские электромобили на британский рынок, — один из примеров. Они дешевле других электромобилей, продающихся в Великобритании, и покупатели спрашивают: что тут может не понравиться? Но стоит учитывать, что Пекин субсидирует китайские электромобили, чтобы наращивать экспорт и одновременно ослаблять национальные автопромы других стран.

Дешёвый ИИ поднимает эту угрозу экспорта на новый уровень.

Ситуация тревожит ещё и потому, что Пекин вступает в новый этап экономического развития, приближая вторую по величине экономику мира к цели «сделать Китай снова великим».

Десять лет назад ближайшие сторонники Си Цзиньпина обращали внимание на внутренние противоречия тоталитарного государства с централизованным управлением и на то, что они могут вызвать социальные волнения — как это случилось в прошлом веке на площади Тяньаньмэнь.

Обвал рынка недвижимости, который до сих пор сдерживает экономику, растущая безработица, слабая система здравоохранения во многих регионах, дисбаланс между числом мужчин и женщин и старение населения — всё это могло стать искрой, угрожающей власти Коммунистической партии.

Затем появился ИИ, и государство обнаружило, что может установить полный контроль.

Теперь Пекин располагает широкими возможностями для слежки: при необходимости ИИ помогает распознавать граждан на изображениях и отслеживать их действия.

Это не значит, что китайцы находятся под фактическим домашним арестом. Они могут жить обычной жизнью, собираться на улице на спонтанные танцы или обсуждать, как лучше управлять своим регионом. Но тех, кто открыто выступает против власти, выявляют и отстраняют от общественной жизни, отправляют на перевоспитание или наказывают.

Для Центрального комитета ИИ стал благом. Ограничения, связанные с необходимостью учитывать настроения населения, не исчезли полностью, однако теперь руководство Пекина может сосредоточиться на угрозах со стороны остального мира.

Китай не стремится вторгаться в другие страны так, как это делает Россия. Обновлённая инициатива «Пояс и путь» создаёт постоянные торговые связи менее заметными способами, чем прежняя версия, и позволяет Пекину превращать другие государства в зависимых партнёров, которые опираются на китайские технологии в основных сферах жизни.

Россия использует ИИ, чтобы усиливать кибератаки на европейские государственные учреждения и компании и создавать хаос. Китай же хочет расширить круг стран, потребляющих его товары и не задающих неудобных вопросов.

Пекин рассматривает и военную силу. Теперь он может перенаправить ценные ресурсы, которые раньше требовались для субсидирования китайских потребителей, на строительство военного флота, способного бросить вызов США в Тихом океане. В этом Китай напоминает Японию 1930-х годов. В поле его интересов находится Тайвань — один из центров развития полупроводниковой отрасли.

Тем временем китайские разработчики выпускают десятки моделей ИИ в месяц, причём их стоимость составляет лишь малую долю цены американских аналогов.

Некоторые технологические аналитики считают, что китайские модели обогащают разнообразие ИИ и дополняют закрытые модели OpenAI и Anthropic. По их словам, разрабатываются также европейские и индийские версии. Meta быстро развивает открытые модели ИИ, но, как и другие соперники, пока отстаёт в борьбе за клиентов.

На практике пользователь выбирает между дешёвой китайской открытой системой, которую можно подстроить под свои задачи, и дорогим американским программным обеспечением с множеством функций, которые, вероятно, ему не нужны.

Оба типа систем способны уничтожить человечество — об этом писали многие специалисты по ИИ. Но в повседневной работе только один из них хотя бы в некоторой степени обеспечивает безопасность и стремится действовать во благо. Это не китайский вариант.

Как говорит Росс Бёрли, китайский ИИ несёт с собой дополнительные риски. Бёрли руководит Центром информационной устойчивости (CIR) — независимой некоммерческой организацией, которая, помимо прочего, выявляет нарушения прав человека и противодействует дезинформации.

По словам Бёрли, DeepSeek не позволяет полностью изолировать использование своего программного обеспечения, но это лишь часть риска. Запуск модели на собственных серверах сам по себе не отменяет политическую цензуру и не устраняет слабые места в системе защиты.

В отчёте об оценке моделей, подготовленном Национальным институтом стандартов и технологий США (NIST), обнаружили политическую цензуру в загруженных моделях DeepSeek, работавших на собственной инфраструктуре. Значит, размещение этих моделей в Великобритании само по себе не избавит их от цензуры.

Бёрли считает, что особенно тревожно встраивать политические ограничения Пекина в системы, от которых зависят решения и информационная работа компаний и государственных служб.

В политике онлайн-чат-бота DeepSeek говорится, что сервис собирает промты и загруженные материалы, обрабатывает и хранит личные данные в Китае, а также допускает их передачу китайским властям.

Майкл Вулдридж, профессор ИИ в Оксфордском университете, считает вполне разумным предположить, что данные, введённые в чат-бот, могут передаваться китайскому государству.

Для выработки политики последствия имеют большое значение. Великобритании следует отказаться от соблазна дешёвого китайского ИИ, лучше контролировать американские разработки и поддерживать поставщиков из Великобритании и ЕС.

Зависимость от китайских технологий — от автомобилей до ИИ — будет ослаблять промышленность и ставить под угрозу безопасность данных.