OpenAI и Anthropic призвали британских законодателей: регулируйте нас

Разногласия о регулировании

Во вторник комитет по делам бизнеса, инноваций, науки и торговли провёл слушания с участием представителей четырёх передовых ИИ-компаний, четырёх бывших сотрудников этих компаний, выступивших как информаторы, и высокопоставленных британских чиновников. В комитет входят депутаты от разных партий.

Глава европейского подразделения Anthropic Лиам Бут-Смит заявил, что обязательные правила для компаний необходимы, а добровольных обещаний недостаточно. Он говорил об этом в ответ на вопрос, считает ли компания, что безопасность ИИ теперь требует законодательного регулирования.

Вице-президент OpenAI Том Дафф Гордон высказался осторожнее, но тоже поддержал обязательные правила и международную конвенцию. По его словам, некоторые требования должны быть обязательными — в первую очередь сообщения об инцидентах. Дафф Гордон добавил, что строить долгосрочный план для снижения рисков передовых моделей только на добровольных обещаниях неразумно.

Представители конкурирующих компаний поддерживать законодательное регулирование не стали. На прямой вопрос о такой системе Оуэн Лартер из Google DeepMind ответил, что компания сосредоточилась бы на стандартах. Роб Шерман из Meta напомнил депутатам о действующих британских регуляторах и сказал, что страна не начинает с чистого листа.

Слушания показали разногласия о регулировании между руководителями ИИ-компаний. По словам председателя комитета Лиама Бирна, задача депутатов состояла в том, чтобы показать широкий разброс мнений среди некоторых из богатейших компаний мира и дать понять: полагаться на добровольное саморегулирование нельзя. Бирн рассказал об этом WIRED после слушаний.

Пока четыре руководителя компаний выступали перед комитетом по вопросам безопасности ИИ, всего в нескольких сотнях метров от них директор британской службы безопасности предупредил об угрозах, связанных с ИИ.

Глава MI5 Кен Маккаллум в ежегодном докладе об угрозах назвал одним из серьёзных рисков применение ИИ для создания биологического оружия. По его словам, такой сценарий пока не реализовался, но именно возможность того, что ИИ изменит масштабы угрозы со стороны существующего или нового биологического оружия, вызывает у него наибольшую обеспокоенность.

Бирн связал предупреждение Маккаллума с обсуждением правил в парламенте. Он указал, что глава MI5 говорил в одной части Уайтхолла об ИИ, который может значительно повысить возможности биотеррористов, а в другой постоянный секретарь Кабинета министров фактически признала добровольный характер британского регулирования ИИ.

Проверки без обязательных требований

В заключительной части слушаний чиновники признали, насколько ограничены полномочия нынешней системы. Британский Институт безопасности ИИ (AISI) проверяет передовые модели до выпуска, но только если компании сами решают передать их на тестирование.

Директор AISI Генри де Зуте признал, что институт полностью зависит от сотрудничества компаний и иностранных правительств, чтобы получить доступ к моделям. Кэт Литтл, старший чиновник Кабинета министров, в структуру которого входит AISI, подтвердила, что сейчас вся система добровольная.

На вопрос, что произойдёт, если AISI сочтёт модель слишком опасной, а компания всё равно выпустит её, де Зуте ответил, что институт не может этому помешать.

Он пояснил, что AISI не выдаёт знак безопасности и не принимает решений о том, разрешать выпуск модели или запрещать его. Де Зуте добавил, что передовые модели создают американские или китайские компании, а возможности Великобритании в такой ситуации ограничены.

Руководители компаний также дали понять, что доступ Великобритании к моделям зависит от Вашингтона. Дафф Гордон сообщил, что OpenAI перед выпуском предоставляет модели американскому Центру стандартов и инноваций в сфере ИИ (CAISI), аналогу британского AISI. По его словам, компания продолжит передавать модели британскому институту до выпуска, пока это будет разрешено правительством США.

Ограничения действующего порядка обозначил Бут-Смит. Он рассказал, что в тот момент Anthropic не могла предоставить британскому AISI полный и неограниченный доступ к Mythos 5.1, и назвал это вопросом к правительству США. По его словам, теперь у AISI такой доступ есть.

Что сказали бывшие сотрудники

На слушаниях выступили и четверо бывших исследователей ИИ-лабораторий, в том числе бывший сотрудник OpenAI Дэниел Кокотайло. Он заявил депутатам, что не считает, будто компании можно доверить саморегулирование.

Стивен Адлер, покинувший OpenAI в конце 2024 года, сказал, что не уверен в культуре безопасности во всей отрасли. Джеффри Ирвинг отметил, что лаборатории считают себя участниками гонки, которую правительства не остановят и из которой нельзя выйти. По его словам, оба утверждения неверны: компании могут просто остановиться.

После слушаний Бирн сообщил WIRED, что комитет намерен уделить много времени обсуждению дальнейшего курса Великобритании в сфере ИИ как средней державы. Он хочет, чтобы министры использовали предстоящее председательство Великобритании в G20 и вместе с Южной Кореей, которая будет председательствовать после неё, добивались международной конвенции, не зависящей от нынешней администрации Белого дома.

Бирн отметил, что председательство в G20 продлится дольше, чем президентство Дональда Трампа в США. По его словам, риски растут быстрее, чем британская система безопасности успевает их сдерживать.