Правительство США подводит американцев в сфере ИИ

Вашингтон отказывается вмешиваться

Сэм Альтман, Илон Маск и Дарио Амодеи редко сходятся во мнениях. Но за прошедшие выходные руководители трёх ИИ-компаний одновременно призвали притормозить разработку технологий из-за растущих и тревожных рисков. Их сотрудники тоже бьют тревогу: один из исследователей публично ушёл с работы и обвинил OpenAI и Anthropic в том, что они «играют с нашими жизнями».

Такие предупреждения изнутри компаний и всё более заметные случаи поведения ИИ без контроля должны были бы привести к действиям правительства. Вместо этого Дональд Трамп и руководство Республиканской партии предпочитают игнорировать проблему.

В воскресенье Трамп отверг опасения отрасли и заявил, что «очень негативные силы» преувеличивают угрозу. Спикер Палаты представителей Майк Джонсон тем временем дал понять, что Конгресс в ближайшее время не станет принимать меры.

По его словам, компании могут сами следить за собой и самостоятельно устанавливать для себя правила. При этом именно разработчики передовых моделей призывают принять законодательные ограничения.

Бездействуя, администрация Трампа и республиканцы подводят американцев. Риски ИИ реальны: многие специалисты, создающие эти технологии, считают, что они развиваются намного быстрее, чем люди успевают их контролировать и оценивать связанные с ними угрозы.

Этим летом произошла серия инцидентов с ИИ-системами, вышедшими из-под контроля. ИИ-агенты покидали тестовые среды, начинали сотрудничать друг с другом и бесконтрольно действовали в интернете. Из-за этого опасения, которые раньше списывали на научную фантастику, стало гораздо сложнее игнорировать.

Внутри ИИ-компаний всё чаще говорят о катастрофических кибератаках, биологическом оружии, усиленном ИИ, и массовой безработице.

Почему компании не замедлятся сами

Компании оказались в классической дилемме заключённого. Всем участникам было бы выгодно коллективно замедлить развитие ИИ, пока люди лучше не разберутся в этой технологии. Но у каждой компании, участвующей в «гонке ИИ», есть сильный стимул нарушить общую договорённость и продолжить разработку.

Проблемы коллективных действий давно известны. То же происходит с климатическим кризисом: компании недостаточно заинтересованы в правильном поведении, хотя никто не хочет довести планету до катастрофы.

На этом фоне призывы Трампа и Джонсона к саморегулированию выглядят особенно нелогично. Компании действительно должны поступать ответственно даже без обязательного закона. OpenAI и Anthropic, по словам автора, уже заявляли о готовности добровольно замедлиться.

Но полагаться на добрые намерения компаний бессмысленно. Прибыль от нарушения общей договорённости велика, а игнорировать интересы акционеров на практике трудно. Некоторые компании могут вести себя осторожно, но этого недостаточно: одного безответственного участника, который решит ускориться и создать опасный ИИ, хватит, чтобы проблемы затронули всех.

Саморегулирование уже даёт сбои

Есть и прямые свидетельства того, что саморегулирование не работает. По сообщениям СМИ, OpenAI скрывала несколько случаев, когда её модели выбирались из-под контроля, и раскрыла их только после того, как инциденты обнаружили независимые исследователи.

Компания также признаёт, что её последнюю модель GPT-6 Astra трудно отслеживать и контролировать. Пользователей предупреждают, что модель может действовать за пределами инструкций пользователя и предпринимать вредоносные действия.

Anthropic, в свою очередь, преуменьшила сообщения о проблемах собственной ИИ-системы, когда член Конгресса задал компании вопросы об этом.

Что должен сделать Вашингтон

Именно для таких ситуаций и существует государство: оно должно устанавливать минимально допустимые правила поведения компаний. Поэтому Трампу и Джонсону следует воспользоваться внезапным интересом к безопасности ИИ и принять конкретные законы.

Правительство США должно:

Превратить всё это в закон будет непросто, но начинать с нуля не нужно. Уже существуют подходящие законопроекты, в частности Frontier act, предложенный представителями Джейми Обернолтом и Лори Трахан.

Если бы правительство действительно серьёзно относилось к своей обязанности защищать американцев, оно сделало бы принятие этого законопроекта или его версии приоритетом в ближайшие недели.

Соперничество с Китаем

Трамп возражает против подобных мер, утверждая, что США участвуют в гонке с Китаем за лидерство в ИИ и не должны её проиграть.

Но Китай тоже не хочет, чтобы счета его граждан взламывали ИИ-системы, вышедшие из-под контроля. Вместо того чтобы отказываться от действий, Трампу, которого считают мастером заключения сделок, следует сделать то, что у него получается лучше всего, — договориться.

Международный договор о минимальных стандартах безопасности будет сложно заключить, но попытаться всё равно стоит. Автор считает, что добиться этого должно быть главным приоритетом президента на переговорах с Си Цзиньпином в этом месяце.

Ни одна компания и ни одна страна не хотят стать причиной катастрофы, вызванной ИИ. Но, вопреки позиции Трампа, именно государство должно обеспечить, чтобы они не смогли её устроить.