Китайская угроза довлеет над сценарием ИИ-апокалипсиса американских компаний

Источник: theguardian.com

Когда журналисты спросили Дональда Трампа, поддерживает ли он призывы замедлить развитие ИИ из-за опасений за кибербезопасность, общественную безопасность и будущее человечества, президент ответил отрицательно. Свой отказ он объяснил Китаем.

Трамп заявил, что США опережают Китай в ИИ и являются самой технологически развитой страной в мире. По его словам, американцам нужно сохранить это положение, поскольку победитель в гонке ИИ победит и в целом.

Эту мысль американская индустрия ИИ продвигает уже несколько лет. Anthropic, OpenAI и другие компании утверждают, что США участвуют в напряжённой технологической гонке с Китаем, а регулирование, которое позволит Пекину перехватить инициативу, может привести к непредсказуемым экономическим и политическим последствиям.

На этой неделе Дарио Амодеи, генеральный директор Anthropic, возглавил отраслевой призыв «сбавить темп передовых разработок». При этом он заявил, что США могут замедлиться только до той границы, за которой Китай не сможет их догнать.

Амодеи предупредил: если США сильно ограничат свои способности в ИИ, рассчитывая, что Китай поступит так же, а Пекин откажется от этого подхода, настолько мощный ИИ может обеспечить Китаю геополитическое господство.

Опасения индустрии по поводу Китая могут быть связаны с её экономическими интересами, но одновременно они отражают укоренившийся в технологической среде жёсткий внешнеполитический подход к Пекину.

В последние годы часть Кремниевой долины стала позиционировать себя как передовой отряд новой холодной войны с Китаем. Её представители утверждают, что технологическое развитие отрасли необходимо для сохранения американского превосходства и либерального мирового порядка. Эта позиция распространилась среди разных идеологических групп в технологической среде и объединила сторонников безопасности ИИ, техномилитаристов и неоконсерваторов, которых тревожит усиление Пекина.

Компании, работающие с ИИ, нанимают бывших высокопоставленных сотрудников правительств Джо Байдена и Дональда Трампа, чтобы формировать публичную стратегию и анализировать геополитические риски. Внутри компаний появляются собственные политические команды. Влиятельные руководители технологической отрасли публикуют эссе и программные документы с призывами сдерживать и ослаблять возможности Китая в сфере ИИ, а иногда допускают угрозу вооружённого конфликта как средство влияния на внешнюю политику.

По мере того как усиливаются публичные призывы ограничить индустрию ИИ и растут связанные с этой технологией риски, разные силы внутри отрасли стараются сами отвечать на вопрос о Китае.

Anthropic и OpenAI не ответили на запросы о комментариях.

Опасения Дарио Амодеи

Мало кто из руководителей технологических компаний США так часто говорил об угрозе контролируемого китайским государством ИИ, как Дарио Амодеи. На протяжении нескольких лет глава Anthropic утверждал, что одна из причин его стремления ускорять развитие ИИ — желание передать эту технологию демократическим правительствам, а не авторитарным режимам вроде Китая.

Эта позиция сделала Амодеи одним из самых заметных критиков китайской технологической отрасли в Кремниевой долине. В этом он отличается от главы OpenAI Сэма Альтмана и основателя Meta Марка Цукерберга: они чаще описывают соперничество в корпоративных и экономических терминах. Генеральный директор Nvidia Дженсен Хуанг, напротив, выступал за использование китайских моделей ИИ. Руководитель Google DeepMind Демис Хассабис говорил о Китае заметно реже.

Сотрудник Brookings Institution Кайл Чан считает, что у Сэма Альтмана нет особенно выраженной позиции по Китаю, тогда как Anthropic придерживается совершенно другого подхода. По его словам, Амодеи сосредоточен на конкретном понимании риска: противостоянии между миром, которым управляет авторитарный ИИ, и миром демократического ИИ.

В серии эссе Амодеи утверждал, что получение Китаем сверхмощного ИИ станет одной из самых серьёзных угроз, связанных с этой технологией. Он считает, что человечество приближается к созданию чрезвычайно продвинутого ИИ. Такое средство, по его мнению, даст авторитарному государству возможность создать «рой из миллионов или миллиардов полностью автоматизированных вооружённых дронов», способных победить любую армию мира и подавлять несогласие внутри страны, следя за каждым гражданином.

В эссе «Отрочество технологий», опубликованном в январе, Амодеи писал, что существует несколько аргументов против столь серьёзной оценки угроз. Он добавлял, что хотел бы верить в них, поскольку ИИ, используемый авторитарным государством, его пугает.

Амодеи давно настаивает: чтобы остановить развитие Китая, США и их союзники должны жёстко ограничить рост китайских компаний в сфере ИИ. В первую очередь речь идёт о блокировке поставок передовых полупроводников и оборудования для их производства, необходимых для совершенствования ИИ. Дженсен Хуанг критиковал такую позицию, называл экспортные ограничения провальными и призывал Трампа смягчить их.

Позиция Амодеи особенно проявилась в минувшие выходные. Молодой исследователь Anthropic Джейкоб Коксон ушёл из компании и предсказал, что к концу десятилетия ИИ может привести к вымиранию человечества. В серии апокалиптических публикаций он не упоминал Китай. Однако при рассуждении о том, как предотвратить вымирание людей, глава Anthropic уделил противостоянию Пекину центральное место.

Амодеи сформировал команду, разделяющую его взгляды. Например, он нанял Таруна Чхабру, бывшего сотрудника Совета национальной безопасности при администрации Байдена, на должность руководителя политики национальной безопасности Anthropic. Чхабра выступал против продажи Китаю чипов и призывал правительство в полном масштабе ограничить развитие ИИ Коммунистической партией Китая.

На слушаниях в Сенате в прошлом году Чхабра заявил, что Китайская коммунистическая партия не стремится к дополнительности, сосуществованию или взаимной выгоде с США и их союзниками. По его словам, Пекин добивается полного превосходства и контроля над важнейшими технологиями и цепочками поставок. Чхабра также сказал, что администрация Байдена действовала недостаточно решительно и быстро, чтобы сохранить американское лидерство в противостоянии с Китаем.

Озабоченность Амодеи экспортными ограничениями сблизила его с другими влиятельными противниками Китая. В прошлом году он написал для The Wall Street Journal совместную колонку с Мэттом Поттингером, автором китайской политики Трампа в его первый президентский срок. Они призвали администрацию ужесточить контроль над экспортом чипов.

Поттингер — приглашённый сотрудник консервативного Hoover Institution и автор книги о защите Тайваня от китайского нападения. В 2024 году он заявил, что США и Китай находятся у подножия большой войны между державами.

Дарио Амодеи выступает на саммите Dreamforce 2026 в Сан-Франциско, штат Калифорния, в сентябре

Источник: theguardian.com

Позиция Anthropic и Амодеи создаёт напряжённость с внутренней политикой самой компании. Anthropic потратила миллионы долларов на лоббирование усиления государственного надзора и мер безопасности. Одновременно компания дала понять, что будет активно противодействовать любой политике, которая, по её мнению, позволит Китаю обойти США.

Руководитель публичной политики Anthropic Сара Хек на мероприятии Politico в среду заявила, что компания хочет донести до всех одну мысль: США должны сохранять лидерство в ИИ, а обеспечить безопасность с позиции второй страны невозможно.

Эксперты считают, что взгляды компаний и руководителей ИИ, таких как Амодеи, особенно важны потому, что политика администрации Трампа, основанная на минимальном вмешательстве в отрасль, оставила частные компании главными участниками формирования государственной политики.

Кайл Чан сравнил ситуацию с полной дерегуляцией фармацевтической отрасли. По его словам, в конечном счёте всё сводится к нежеланию Трампа регулировать ИИ: президент не хочет замедлять бум этой технологии и её влияние на экономику.

Anthropic — не единственная компания, которая нанимает бывших высокопоставленных политических советников и разделяет их взгляды. В начале этого года OpenAI наняла автора плана Трампа по развитию ИИ Дина Болла на должность руководителя стратегических перспектив.

Болл критиковал то, как Амодеи описывает соперничество с Китаем, но сам выражал похожий пессимизм по поводу сотрудничества двух стран. В прошлом году он написал, что когда-то ещё можно было считать, будто США и Китай будут развивать свои сильные стороны, укреплять собственные экономики и расти вместе. Теперь, по его мнению, такая гармония выглядит невозможной: страны оказались в структурном конфликте.

Противники Китая в Кремниевой долине

Амодеи остаётся самым заметным представителем индустрии ИИ, говорящим о Китае, однако страх перед тем, что Пекин получит передовые возможности в области ИИ и использует их для мирового господства, распространён по всей Кремниевой долине.

Несколько технологических руководителей, сосредоточенных на китайской угрозе, как и Амодеи, связаны с движением эффективного альтруизма. Это близкая к утилитаризму идея, согласно которой общество должно направлять ресурсы на проекты, способные принести человечеству максимум пользы и уменьшить наиболее серьёзный вред. Движение часто пересекается с сообществом сторонников безопасности ИИ, обеспокоенных долгосрочными и экзистенциальными рисками технологии.

Леопольд Ашенбреннер, 25-летний бывший исследователь OpenAI, основатель влиятельного хедж-фонда, работающего с ИИ, и муж руководителя аппарата Амодеи, призвал правительство организовать разработку сверхинтеллекта раньше Китая. Он изложил эту позицию в документе объёмом 165 страниц.

В 2024 году Ашенбреннер написал, что сверхинтеллект даст решающее экономическое и военное преимущество. По его словам, Китай ещё не выбыл из гонки, а в борьбе за искусственный общий интеллект на кону окажется само выживание свободного мира.

Позиция Ашенбреннера, чей хедж-фонд в начале этого года потерял $35 млрд менее чем за месяц, нашла поддержку в Вашингтоне. Через несколько месяцев после публикации его манифеста обычно настроенная жёстко Комиссия по обзору экономических и связанных с безопасностью отношений США и Китая представила ежегодный доклад Конгрессу. Главной рекомендацией консультативного органа стало создание и финансирование программы по образцу Манхэттенского проекта, посвящённой гонке за искусственным общим интеллектом и его получению.

Стратегические предложения индустрии ИИ по Китаю не ограничиваются движением эффективного альтруизма. В 2025 году сооснователь Google Эрик Шмидт, основатель Scale AI, а теперь руководитель направления ИИ в Meta Александр Ванг и директор Center for ИИ Safety Дэн Хендрикс написали масштабную доктрину стратегического сдерживания Mutual Assured AI Malfunction (Maim).

Авторы перенесли на ИИ логику холодной войны и концепцию взаимного гарантированного уничтожения, применявшуюся к ядерному оружию. Они предложили, чтобы США и Китай добивались геополитической стабильности угрозами шпионажа, кибератак и возможных военных ударов, если одна из стран будет стремиться к монополии на ИИ.

В документе предупреждается, что государство, единолично владеющее сверхинтеллектом, может получить настолько подавляющее преимущество, каким конкистадоры обладали перед ацтеками.

Ядерный вариант

Некоторые влиятельные мыслители в области ИИ выступают за крайние меры против развития технологии в таких странах, как Китай. Элайезер Юдковски, один из первых и наиболее громких сторонников безопасности ИИ, утверждал, что США должны быть готовы наносить авиаудары по зарубежным дата-центрам и рисковать ядерной войной, чтобы заставить соперников соблюдать глобальный мораторий на ИИ.

В эссе для журнала Time в 2023 году Юдковски предложил прямо закрепить в международной дипломатии приоритет предотвращения сценариев вымирания из-за ИИ над предотвращением полномасштабного ядерного обмена. По его мнению, страны-союзники, обладающие ядерным оружием, должны быть готовы пойти на некоторый риск ядерной войны, если это поможет уменьшить вероятность крупных запусков обучения ИИ.

Юдковски основал Machine Research Intelligence Institute. За последнее десятилетие организация получила более $10 млн от Open Philanthropy — некоммерческой структуры, связанной с движением эффективного альтруизма. Сооснователь и бывший генеральный директор Open Philanthropy Холден Карновски женат на соосновательнице Anthropic Даниэле Амодеи.

Другие противники Китая в технологической отрасли и индустрии ИИ связаны с военно-промышленным комплексом и имеют экономический интерес в этом соперничестве. Среди них — основатель Anduril Палмер Лаки и генеральный директор Palantir Алекс Карп.

Лаки утверждал, что у его оборонной компании есть внутреннее правило: любой проект нужно создавать исходя из того, что Китай начнёт военные действия против Тайваня в 2027 году.

Алекс Карп, CEO Palantir, на саммите G20 Innovation в Северной Каролине 2 сентября 2026 года

Источник: theguardian.com

Карп описывает соперничество с Китаем в области ИИ как борьбу за геополитическое превосходство и считает, что ради победы американцам следует принять ограничения гражданских свобод.

В прошлом году в интервью Axios он заявил, что доминировать будет либо США, либо Китай, а правила будут сильно различаться в зависимости от победителя. По словам Карпа, опасения из-за наблюдения оправданны, но если США потеряют лидерство, американцы будут обладать значительно меньшими правами.

Взгляд из Китая

Амодеи и другие руководители американской индустрии ИИ описывают соперничество с Китаем как гонку за первым сверхмощным искусственным интеллектом и опасаются, что ИИ выйдет из-под контроля людей. Эксперты утверждают, что большинство китайских компаний и правительство КНР смотрят на технологию иначе.

Дискуссии о потере контроля над ИИ в Китае начались сравнительно недавно. Главная тревога властей связана с тем, что ИИ может спровоцировать внутренние социальные волнения.

В этом месяце США и Китай должны провести переговоры о сотрудничестве в области ИИ. По словам экспертов, Пекин подходит к ним с недоверием и подозревает, что переговоры о безопасности могут быть способом замедлить развитие Китая.

Эссе Амодеи усилило эти опасения. Старший постоянный сотрудник по Китаю в Лаборатории цифровой криминалистики Atlantic Council Кентон Тибо заявил, что китайские представители внимательно изучают текст Амодеи и одновременно связывают его с возможным подходом США на предстоящих переговорах по безопасности ИИ.

Менее чем через неделю Трамп должен встретиться с Си Цзиньпином в Вашингтоне. ИИ будет одной из главных тем встречи.

Китайские государственные СМИ резко критиковали Амодеи и обвиняли его в использовании «сценария холодной войны» против Китая через поддержку замедления развития ИИ.

Эксперты также считают, что одновременные призывы Anthropic к жёстким экспортным ограничениям против Китая и соглашениям по безопасности объединили дискуссии о двух разных темах: безопасности ИИ и экономическом соперничестве вокруг этой технологии.

Кайл Чан из Brookings Institution заявил, что Anthropic сыграла заметную роль в связывании этих вопросов. По его словам, из-за этого Китаю стало гораздо сложнее воспринимать такие переговоры иначе, чем как завуалированную попытку замедлить его развитие.

Гонка с ухудшением условий

Пока администрация Трампа ведёт переговоры с Китаем, растущее недовольство индустрией ИИ внутри США может заставить законодателей действовать независимо от последствий для глобального баланса сил.

Противодействие строительству дата-центров по всей стране и недавние инциденты с кибербезопасностью, включая взлом моделями OpenAI внешних организаций, стали темами предстоящих выборов в Конгресс. Это усиливает стимулы для законодателей заняться непосредственным вредом, связанным с ИИ.

Соисполнительный директор ИИ Now Institute и бывший старший советник по ИИ в Федеральной торговой комиссии Амба Как считает, что индустрия может сколько угодно ссылаться на гонку с Китаем, но ей всё равно придётся отвечать за последствия разгона гонки с ухудшением условий для всех.

Эксперты и дипломаты почти не надеются на крупные соглашения по итогам предстоящих переговоров США и Китая. Однако всё более реальные риски применения ИИ в автономном оружии, кибератаках и других дестабилизирующих технологиях могут заставить страны изменить ход гонки, даже если они не прекратят разработку.

Кентон Тибо отметил, что победа в гонке не означает выигрыша, если первой появится армия роботов-убийц: этого не хочет никто. По его словам, у обеих сторон должны быть сильные стимулы остановить такое развитие событий.