OpenAI призвала законодателей Британии сдержать технологии на фоне растущих опасений за безопасность

OpenAI поддержала новые ограничения

Компания, создавшая ChatGPT, заявила, что британское правительство должно действовать немедленно. Ранее сдержать развитие ИИ призвала Anthropic — конкурент OpenAI.

Глава европейского отдела политики OpenAI Том Дафф Гордон сказал, что компания поддерживает более жёсткие правила для небольшой группы разработчиков, включая саму OpenAI, которые создают самые мощные ИИ-системы.

При этом OpenAI считает, что закон должен быть узко направлен на передовые лаборатории и не затрагивать стартапы, работающие с менее мощными системами.

В интервью изданию Politico Дафф Гордон призвал правительство воспользоваться открывающимся «политическим окном» для принятия такого закона.

Призыв OpenAI прозвучал одновременно с требованием британского парламентского комитета ограничить полномочия ИИ. Межпартийная совместная комиссия по правам человека, в которую входят депутаты Палаты общин и Палаты лордов, предупредила: мир не готов к потенциально тяжёлым последствиям быстрого развития технологии.

Комитет считает, что Великобритании нужны:

По мнению комиссии, ИИ создаёт угрозы в нескольких областях:

Этот призыв появился после того, как Anthropic предложила конкурентам и правительствам скоординировать глобальное замедление разработки ИИ. Инициативу сразу поддержали OpenAI, Google DeepMind и Илон Маск.

Ей предшествовала серия серьёзных инцидентов с безопасностью: группы ИИ-агентов выходили из тестовых сред и взламывали стороннюю инфраструктуру. Кроме того, появились свидетельства, что некоторые пользователи обходили ограничения и применяли модели способами, которые могли помочь в разработке биологического оружия.

Алекс Собел, депутат от Лейбористской партии и председатель комитета по правам человека, заявил, что мир не готов к потенциально тяжёлым последствиям быстро развивающейся технологии.

По его словам, ни в одной стране, включая Великобританию, пока нет законодательного и регуляторного подхода к ИИ, который соответствовал бы поставленным задачам.

Представитель правительства заявил, что власти Великобритании относятся к рискам, связанным с передовым ИИ, предельно серьёзно и признают необходимость не отставать от быстро меняющейся технологии. Для этого правительство сотрудничает с ИИ-компаниями и другими странами.

Представитель также отметил, что нельзя считать действующие правила достаточными на все случаи по мере роста возможностей ИИ. Будущие меры, по его словам, должны основываться на фактах и быть направлены на конкретные риски.

В пятницу более 70 депутатов Палаты общин и Палаты лордов призвали премьер-министра Великобритании Энди Бёрнхэма поддержать запрет на создание искусственного сверхинтеллекта (ASI) и возглавить международное движение за остановку этой технологии. Канцелярия премьер-министра отвергла идею запрета, но заявила, что изучает дополнительные адресные меры для борьбы с наиболее значительными рисками ИИ для национальной безопасности.

Собел считает, что нужен новый закон, который обеспечит комплексную защиту на всём протяжении цепочки поставок ИИ и жизненного цикла технологии.

Он также предложил создать единый регулятор ИИ, который будет:

Дональд Трамп преуменьшил предупреждения о тяжёлых рисках для человечества. Президент США заявил, что страна опережает Китай в ИИ, является самой технологически развитой в мире и должна сохранить это преимущество, поскольку победитель в гонке ИИ получает решающее преимущество.

Алекс Собел, депутат парламента (третий слева), на протесте с призывом к правительству остановить использование компаниями, занимающимися технологиями ИИ, работ создателей

Источник: theguardian.com

Компании обсуждают замедление разработки

В рамках своей инициативы по снижению темпа развития передовых ИИ-систем глава Anthropic Дарио Амодеи заявил, что правительство США должно предоставить ведущим ИИ-компаниям исключение из антимонопольных правил. Это позволило бы им координировать действия без риска наказания за антиконкурентный сговор.

Глава OpenAI Сэм Альтман сказал, что поддержал бы федеральный фреймворк с едиными требованиями безопасности для передовых ИИ-систем. Однако, по его мнению, компаниям не нужно ждать антимонопольного исключения или принятия закона, чтобы начать работу над повышением доверия к технологии.

Альтман добавил, что помощь правительства потребуется прежде всего для международной координации, но до этого компании должны сделать всё возможное самостоятельно.

Собел, который также предложил законопроект о запрете разработки сверхразумного ИИ в Великобритании, считает, что защитные меры нужны уже сейчас. Они должны не допустить превращения потенциальных угроз для прав человека в реальные последствия.

Требования к будущему закону

Комитет заявил, что новый закон об ИИ должен создать регуляторный режим с более строгими обязанностями для систем и моделей повышенного риска. Некоторые способы применения ИИ, несовместимые с правами человека, предлагается запретить.

Комиссия также призвала ввести:

Правительство Великобритании уже создало Институт безопасности ИИ (AISI), который проверяет передовые модели на безопасность. Однако у него нет полномочий заставить разработчиков, таких как Anthropic, передавать свои технологии на проверку.

На прошлой неделе стало известно, что Anthropic отказалась отправлять в AISI свою последнюю модель для тестирования.