США и Китай обсуждают, как уведомлять друг друга об ИИ-угрозах для нацбезопасности

Переговоры ведут американские и китайские чиновники. Бессент назвал создаваемый механизм US China AI Dialogue площадкой, где представители двух стран смогут регулярно обсуждать ИИ и искать общие подходы к целям и угрозам.

По словам министра, в отношениях между двумя крупнейшими державами в области ИИ важно перейти от непрозрачности к большей открытости, как это происходит в других сферах трансграничного взаимодействия.

После визита Трампа в Пекин в мае обсуждение продолжилось. За это время опасения по поводу общественной безопасности, связанные с ИИ, усилились. Летом несколько инцидентов показали возможности передовых моделей и отставание защитных мер отрасли:

В начале этого месяца тревога усилилась после того, как сотрудники Anthropic предупредили: ИИ может двигаться к сценарию, при котором человечество будет уничтожено. В последние недели руководители крупнейших лабораторий, разрабатывающих передовые модели, призвали замедлить развитие технологии до появления стандартов безопасности. Среди них были Сэм Альтман из OpenAI, Дарио Амодеи из Anthropic и Илон Маск.

В эссе о том, как лаборатории и правительства могут замедлить развитие ИИ, Амодеи попросил власти помочь создать международную систему координации, в том числе с участием Коммунистической партии Китая.

Трамп пока в основном отвергает призывы к замедлению, хотя поддержку регулирования отрасли выражают представители обеих партий. Его администрация считает, что у правительства США уже достаточно уголовно-правовых и регуляторных инструментов для контроля над разработчиками.

Такой позиции придерживается и Дженсен Хуанг, генеральный директор Nvidia, создающей инфраструктуру для ИИ. Он напомнил, что компании уже подпадают под действие законов о кибербезопасности и ответственности за причинённый ущерб. По мнению Хуанга, сначала нужно применять действующие нормы и не позволять разговорам о катастрофическом будущем освобождать компании от уже существующих требований.

Трамп заявлял, что замедление может привести к потере лидерства США в ИИ в пользу Китая. Он формулировал это так: победитель в ИИ побеждает вообще. Его главный научный советник Дэвид Сакс ранее говорил, что Китай вряд ли присоединится к глобальному соглашению о темпах развития технологии.

Томас Вольф, сооснователь платформы открытого ИИ Hugging Face, которую недавно согласилась купить Nvidia, усомнился, что США смогут выстроить международное сотрудничество, одновременно открыто заявляя о желании и дальше увеличивать собственное преимущество. В ответ на эссе Амодеи он написал в X, что такой подход выглядит непродуктивным началом для переговоров.

Сейчас США пытаются сдержать развитие ИИ в Китае, ограничивая экспорт передовых чипов и технологий их производства. Бессент сообщил, что на встречах в эти выходные эти ограничения не обсуждались. Переговоры также включали торговые вопросы и, по его словам, прошли «очень успешно» перед визитом Си Цзиньпина в Вашингтон.