Почему Китай не соглашается с предупреждениями США о стремительном развитии ИИ

Около двух лет назад предприниматель в сфере образования Борис Бут понял, что его компании необходимо осваивать ИИ, иначе технология вытеснит её с рынка. Обеспеченные родители, которые хотели отправить детей учиться за границу, приходили к нему и пересказывали сведения и мнения, полученные уже не от конкурирующих компаний, а от чат-ботов.

В ответ Бут начал разрабатывать собственный сервис для помощи с поступлением и учёбой. Он пришёл к выводу, что компании нужно присоединиться к ИИ, если она не может его обойти.

Позиция Пекина

По темпам и качеству развития ИИ Китай уступает только США. Две державы всё сильнее соперничают, а ставки растут с появлением каждой новой модели и её возможностей.

Аналитики в целом считают, что передовые американские модели всё ещё заметно опережают китайские. Однако в последние недели из Кремниевой долины всё чаще звучат мрачные предупреждения о возможных катастрофах, которые возникнут, если люди потеряют контроль над наиболее развитыми системами ИИ.

В прошлую субботу генеральный директор Anthropic Дарио Амодеи предложил синхронизировать темпы развития передовых моделей во всём мире. По его словам, для этого потребуется сотрудничество с Китаем.

Но Китай явно не готов замедляться на условиях американских компаний, считает Лиан Джай Су из исследовательской технологической группы Omdia. Для китайского правительства ИИ — это способность, связанная с ключевым суверенитетом, и Пекин не хочет ставить под угрозу прогресс в сокращении отставания от передовых американских моделей.

Су считает, что китайские власти воспринимают призывы к замедлению как попытку закрепить преимущество США. Амодеи прямо связал эту идею с Китаем: он заявил, что важно сохранить как можно больший разрыв в пользу демократий по сравнению с автократиями.

Среди предложенных им мер — сохранение ограничений на поставки Китаю передовых чипов и оборудования. Некоторые эксперты считают, что такие ограничения уже фактически представляют собой одностороннее принудительное замедление развития.

МИД Китая ответил, что запугивание, конфронтация и агрессивная конкуренция лишь нарушат процесс глобального управления ИИ. Однако несколько аналитиков заявили, что из этого не следует отказ Пекина от более широких опасений, изложенных в статье Амодеи.

Что говорит китайская система безопасности

На этой неделе Китай выпустил третью версию своей системы управления безопасностью ИИ. Исследователь пекинской консультационной компании Concordia AI Габриэль Вагнер описал документ как карту рисков ИИ с общими рекомендациями о том, что с ними делать.

В обновлённую версию вошли:

По мнению Вагнера, между заявлениями Амодеи и позицией китайского правительства может быть больше общего, чем принято считать.

Эта позиция отличается от слов президента США Дональда Трампа, который на этой неделе назвал опасения по поводу возможного уничтожения человечества ИИ мистификацией.

На следующей неделе Трамп должен встретиться в Вашингтоне с председателем КНР Си Цзиньпином. Ожидается, что ИИ войдёт в повестку переговоров, хотя аналитики сомневаются, что встреча приведёт к серьёзному прорыву.

Контроль и регулирование

Коммунистическая партия Китая внимательно отслеживает угрозы своему политическому контролю и заранее добивается того, чтобы новая технология развивалась в установленных государством границах.

По словам Лиан Джай Су, централизованный контроль над критической инфраструктурой и коммерческой деятельностью в целом даёт Китаю больше возможностей, чем США, для реагирования на катастрофу, связанную с ИИ.

При этом китайские компании добровольно занимаются мониторингом и оценкой систем реже, чем американские. Об этом сказала Лея Ван из Фонда Карнеги за международный мир (CEIP). По её словам, ни одно из правительств, судя по всему, не готово к инциденту с потерей контроля в том виде, о котором специалисты предупреждали в последние недели.

Китайское регулирование при этом развивается итеративно: власти быстро адаптируются и выпускают новые меры, добавила Ван.

Реестр алгоритмов действует в Китае с 2022 года. Но предупреждения об ИИ-агентах, опубликованные в этом году, указывают на смену акцента — от контроля над тем, что ИИ говорит, к контролю над тем, что он делает.

В этом же году Пекин ввёл общенациональные правила, направленные на ограничение эмоциональной зависимости от ИИ-компаньонов.

ИИ в экономике

Одновременно Китай активно продвигает ИИ по всей экономике, связывая его внедрение с задачей экономического роста в новом пятилетнем плане.

Местные власти предлагают компаниям финансирование и низкую арендную плату. Недавно предпринимателя Бориса Бута пригласили представить его компанию Hampshire Education небольшому городу в трёх часах езды от Шанхая. Город стремится получить репутацию технологического центра.

Предприятия огромной китайской промышленной базы также призывают переводить производственные процессы на работу с ИИ.

Представитель Black Lake Technologies — платформы для промышленных ИИ-агентов, которая заявляет о работе с 40 000 фабрик по всему миру, — отметил, что безопасность и управляемость остаются предметом активных обсуждений. Но в производстве эти вопросы обычно имеют более конкретный и практический характер: компании прежде всего хотят понимать, будет ли ИИ надёжным.

Повседневное использование

Повседневная жизнь в Китае уже сильно оцифрована. Традиционно менее активные дискуссии о конфиденциальности данных помогли ИИ-сервисам широко распространиться.

Например, цифровой медицинский сервис A-fu использует версии чат-ботов, созданные по образу известных врачей и обученные на реальных клинических исследованиях. Недавно число его пользователей достигло 150 млн.

Основатель и главный редактор технологического сайта yangtzeer.com Ни Тао считает, что большинство людей воспринимают ИИ как уже полезный повседневный инструмент, а не как абстрактную угрозу, поэтому предпочитают с ним сосуществовать.

Тревога из-за рабочих мест и дезинформации существует, добавил он, но сочетается с убеждением, что Китаю необходимо освоить ИИ, а не замедлять его развитие.