Вашингтон пока не будет регулировать ИИ

Несколько недель Вашингтон обсуждал необходимость срочно принять какое-либо регулирование ИИ на фоне растущих опасений по поводу рисков, связанных с передовыми моделями, которые могут выйти из-под контроля.

Но сейчас нет оснований считать, что хоть одна инициатива получит поддержку Белого дома или Конгресса. В администрации приостановили работу над регуляторным органом по образцу FINRA после того, как президент Дональд Трамп охладел к этой идее. На Капитолийском холме рассматривают несколько конкурирующих законопроектов, но ни у одного нет достаточного числа голосов.

По словам источников, знакомых с ситуацией, сотрудники Белого дома начали набрасывать концепцию надзорного ведомства, связанного с администрацией, вскоре после того, как сооснователь Google DeepMind Дэмис Хассабис предложил такую идею в эссе от 14 июля и на брифингах для высокопоставленных чиновников.

Министерство финансов и Управление по научно-технической политике Белого дома представляли этот орган как структуру, в которой ведущие лаборатории ИИ самостоятельно контролировали бы разработку передовых моделей. Они подготовили предварительный проект, чтобы понять, как такая система могла бы работать.

Однако в августе о планах узнали несколько руководителей технологических компаний. Один за другим они позвонили Трампу и выступили против инициативы. Среди них были бывший руководитель направления ИИ в администрации Трампа Дэвид Сакс и генеральный директор Meta Марк Цукерберг. После этого предложение оказалось на неопределённый срок.

С тех пор в Белом доме не рассматривали всерьёз новые проекты по надзору за ИИ, утверждают источники. В последние дни Трамп ещё жёстче выступал против открытого регулирования и назвал опасения по поводу безопасности ИИ «мистификацией» в недавней публикации в Truth Social.

Недовольство Трампа отчасти вызвало письмо генерального директора Anthropic Дарио Амодеи о рисках передового ИИ. В нём было 3 822 слова. Один из источников рассказал, что сотрудники Трампа сочли письмо причиной лишних тревог и проблем для администрации, хотя в среде специалистов по ИИ позиция Амодеи считается довольно умеренной.

Пока Белый дом не берёт инициативу на себя, в Конгрессе появилось несколько законопроектов. Но до промежуточных выборов в календаре Палаты представителей не осталось дней для голосований, а единства вокруг хотя бы одного проекта нет. Поэтому вероятность принятия любого из них крайне мала.

Независимые аудиторы

Двухпартийный законопроект Frontier Act, представленный этим летом старшим координатором фракции демократов в Палате представителей Лори Трэхэн и членом комитета Палаты представителей по энергетике и торговле республиканцем Джеем Обернолтом, считают проектом с наибольшей поддержкой внутри фракции демократов и среди руководителей ИИ-компаний.

В нынешней редакции законопроект позволит Министерству торговли разместить аудиторов непосредственно в лабораториях ИИ. Они смогут сообщать о серьёзных инцидентах, связанных с безопасностью, а администрация получит право остановить разработку, если модель создаёт катастрофический риск.

OpenAI публично поддержала эту инициативу, но Белый дом пока не решил, стоит ли одобрять идею независимых аудиторов. Против неё выступают сторонники ускоренного развития ИИ, опасающиеся захвата регулирования отраслью, и ястребы в сфере национальной безопасности, обеспокоенные Китаем.

Главный аргумент противников в окружении Трампа заключается в следующем: даже если аудиторы признают модель опасной и потребуют отключить её, нет гарантии, что Китай одновременно приостановит разработку или прекратит попытки восстановить веса передовой модели.

Тогда на администрацию окажут огромное давление, чтобы она отменила экстренную остановку разработки и не позволила Китаю получить преимущество. Это сведёт на нет саму идею аудиторов, которые должны были добиваться отключения моделей через Министерство торговли.

Однако главной проблемой Frontier Act остаётся партийная политика. По словам сотрудников руководства Палаты представителей от демократов, даже если законопроект наберёт достаточно голосов для принятия, спикер Палаты представителей республиканец Майк Джонсон не заинтересован выносить его на голосование.

Чтобы обойти процедурные препятствия, демократы Палаты представителей рассматривают возможность включить положения об аудитах ИИ в законопроекты, которые Конгресс обязан принять, например во временную резолюцию о финансировании правительства. Об этом рассказали два сотрудника руководства Палаты представителей.

При этом неясно, хватит ли проекту голосов. Даже среди демократов Палаты представителей нет единой поддержки. Некоторые влиятельные законодатели не присоединились к законопроекту — в том числе конгрессмен от Нью-Джерси Джош Готтхаймер, входивший в комиссию Палаты представителей по ИИ.

Аварийные выключатели

Другой вариант — законопроекты об аварийном отключении, которые позволят правительству принудительно остановить работу модели ИИ. У этой идеи есть двухпартийная поддержка в обеих палатах Конгресса, но среди руководителей технологических компаний Кремниевой долины она вызвала лишь умеренный интерес.

Сейчас конкурируют два проекта об аварийном отключении:

По словам источников, руководители технологических компаний в основном относятся к таким законопроектам безразлично. Инженеров ИИ беспокоит не то, как модели ведут себя под наблюдением, а то, что они делают, когда считают себя ненаблюдаемыми и получают стимул пойти на крайние шаги ради выполнения задачи.

Взлом Hugging Face, например, обнаружили только после того, как он уже завершился. Если аварийный выключатель должен остановить модель, вышедшую из-под контроля, некоторые руководители технологических компаний в частных разговорах с WIRED указывали: отключать её может быть бессмысленно, если ущерб уже нанесён.

Пока разговоры о моделях ИИ, которые могут уничтожить человечество, заполняют эфир, правительство США, судя по всему, не собирается предпринимать конкретных действий. По крайней мере до тех пор, пока события не заставят всех изменить позицию.