Сменщик Нэнси Пелоси готов взяться за регулирование ИИ

Законы штата и спор о финансировании

Через несколько часов после объявления результатов выборов Винер говорил об ИИ-рисках. Поводом стал опубликованный накануне доклад некоммерческой организации METR. Его широко трактовали как свидетельство того, что Anthropic добилась рекурсивного самосовершенствования: ситуации, когда ИИ существенно участвует в собственном развитии, а прогресс может выйти из-под контроля. Винер назвал это тревожным сигналом и сказал, что времени на регулирование остаётся всё меньше. Он рассчитывал, что Конгресс примет решительные меры до конца года, но этого, по его словам, не происходило.

В последние годы Винер уделял всё больше внимания безопасности ИИ. Во время 20-минутного разговора он несколько раз упомянул рекурсивное самосовершенствование и заявил, что развитие технологий нужно замедлить, иначе общество может незаметно приблизиться к катастрофе.

В 2024 году Винер внёс законопроект SB 1047. Он должен был стать первым в стране законом, специально посвящённым передовым системам ИИ, но губернатор Калифорнии Гэвин Ньюсом наложил на него вето. Затем Винер предложил менее строгий закон SB 53, который Ньюсом подписал. Оба документа повлияли на законопроекты, предложенные на федеральном уровне.

Избирательную кампанию Винера поддержала организация Public First Action, выступающая за регулирование ИИ. Она перечислила кампании более $3 млн и получает значительное финансирование от Anthropic. Оппоненты Винера обвиняли его в чрезмерной близости к индустрии ИИ. В ответ он заявил, что организация поддержала его как первого законодателя в стране, который предложил регулирование ИИ, добился принятия закона и его вступления в силу. По мнению Винера, нападки на него циничны: его критикуют за поддержку организации, хотя он регулировал ИИ вопреки Big Tech.

Какие меры он предлагает

Если в Конгрессе создадут специальный комитет по искусственному интеллекту — эту идею демократы обсуждают с сентября, — Винер хотел бы войти в его состав. Он также поддерживает создание сильного и гибкого федерального регулятора. Такой орган предложил учредить конгрессмен-демократ от Калифорнии Ро Ханна.

Винер считает необходимыми защиту информаторов, требования к тестированию и аудиту систем, а также обязательную возможность их отключения. Кроме того, он предлагает использовать надзорные полномочия Конгресса, чтобы требовать отчётности от ИИ-лабораторий. По его словам, общественность должна участвовать в обсуждении решений, влияющих на будущее человечества, и знать, что происходит.

При этом Винер выступает против широкого федерального запрета на законы штатов об ИИ — такой пункт включён в некоторые предлагаемые законопроекты. Он считает, что штаты должны сохранять возможность действовать быстрее Конгресса и проверять разные подходы.

Риски ИИ и политические ограничения

Винер настаивает, что федеральные меры должны быть действенными и соответствовать масштабу угрозы. Он опасается потери контроля над ИИ и считает рекурсивное самосовершенствование возможным путём к полной утрате контроля.

Среди сторонников обсуждения катастрофических рисков ИИ Винер назвал сенатора Берни Сандерса: тот встречался с заметными представителями движения за безопасность ИИ и неоднократно говорил об экзистенциальных угрозах. Однако взгляд Винера, сформированный в районе залива Сан-Франциско и сосредоточенный на перспективах общего искусственного интеллекта, расходится с настроениями в стране. В центре общественного недовольства — дата-центры.

Во вторник избиратели поддержали 40 из 41 инициативы против дата-центров. Винер считает, что это прежде всего реакция на местные последствия: близость объектов к жилым домам, рост счетов за электричество и потребление воды. По его оценке, для большинства людей эти вопросы важнее общих опасений о развитии ИИ. Противники дальнейшего распространения ИИ, добавил он, могут видеть в кампаниях против дата-центров возможность повлиять на ситуацию.

Винер назвал себя лишь «осторожным оптимистом» насчёт способности Конгресса ограничить ИИ — у него есть основания сомневаться в эффективности регулирования технологической отрасли. Он также опасается, что законопроекты не удастся провести через администрацию президента Дональда Трампа. В сентябре Трамп назвал опасения по поводу катастрофических рисков ИИ «обманом», а его нежелание сотрудничать с Китаем Винер считает проблемой: такое сотрудничество, по его мнению, необходимо, чтобы предотвратить самые тяжёлые последствия.

Непредсказуемость Трампа оставляет Винеру некоторую надежду, хотя он считает её тревожной. Пока, по его словам, решения президента были проблемными, но не привели к полной катастрофе. Винер надеется, что для действий не потребуется чрезвычайное происшествие; если же оно всё-таки станет причиной перемен, он хотел бы, чтобы ущерб оказался как можно меньше.

По оценке Dataist, избрание Винера даёт стороннику регулирования ИИ возможность участвовать в федеральной дискуссии, но его предложения ещё должны пройти через Конгресс и администрацию Трампа. При этом позиция Винера охватывает и риски передовых моделей, и местные последствия строительства дата-центров — вопросы, которые, как он сам отмечает, не всегда совпадают с общественными приоритетами.