Anthropic тайно лоббирует закон: ИИ-модель можно остановить, только если она грозит убить более 50 человек

Как устроено предложение

В последние месяцы руководители ведущих ИИ-лабораторий, включая OpenAI и Anthropic, направляли десятки миллионов долларов политическим группам. По данным Politico, это происходит накануне промежуточных выборов в США, чтобы заручиться поддержкой кандидатов. Хотя общая сумма расходов известных ИИ-компаний составляет не менее $55,7 млн, их конкретные позиции по регулированию долго оставались неясными.

Теперь Politico сообщает, что представители Anthropic в закрытом порядке обсуждают с законодателями формулировки проекта закона об ИИ. По словам трёх собеседников издания, знакомых с переговорами, компания предлагает дать федеральному правительству механизм для остановки любой ИИ-модели, которая представляет неминуемую угрозу.

Чтобы власти могли признать угрозу неминуемой, модель должна создавать риск гибели или тяжёлых травм не менее чем для 50 человек либо имущественного ущерба свыше $1 млрд. При этом оснований для вмешательства всего три: выпуск биологического оружия, катастрофическая кибератака или выход модели из-под контроля ИИ-лаборатории.

По описанию Politico, решение сначала будет оценивать независимый наблюдатель, работающий под надзором Министерства торговли. Если он обнаружит, что одна из этих угроз может возникнуть из-за будущей ИИ-модели, ему отводится 72 часа, чтобы сообщить об этом чиновникам ведомства. Те затем решат, представлять ли собранные доказательства федеральному судье.

В итоге разрешать или запрещать выпуск модели будет один судья. Многоступенчатая система с несколькими условиями, государственными чиновниками и независимым наблюдателем, по оценке Politico, оставляет ИИ-лабораториям широкую свободу действий — именно этого они, по-видимому, и добиваются.

Представитель Anthropic сообщил Politico, что законопроект отражает предложения из документа компании «Структура передового ИИ». По его словам, Anthropic выступает за эти меры перед федеральными властями и властями штатов с июня и считает их разумными; компания полагает, что Конгрессу следует принять такой закон.