OpenAI, Anthropic и Google уже несколько недель обсуждают безопасность ИИ

Переговоры компаний

Амодеи опубликовал своё эссе в субботу. Он призвал компании отрасли совместно замедлить развитие передового ИИ, чтобы снизить катастрофические риски.

Его письмо и призыв к действиям поддержали руководители ИИ-компаний:

Альтман заявил, что OpenAI присоединится к Anthropic и внедрит в компании сторонних оценщиков. Они должны следить за безопасностью систем.

Во вторник Лехан подтвердил, что три компании обсуждают безопасность ИИ уже несколько недель. Некоторые руководители, включая Альтмана, предупреждали: такая координация может привести к нарушению антимонопольного законодательства, если власти сочтут её ограничивающей конкуренцию.

Амодеи предложил узкое исключение из закона, которое разрешило бы компаниям координировать действия в сфере безопасности. По словам Лехана, компаниям такое разрешение не требуется.

Отраслевые стандарты

Новые сведения подтверждают предыдущие сообщения о сотрудничестве компаний. В интервью Fortune в конце прошлой недели Альтман намекнул, что ведёт закрытые переговоры с другими руководителями ИИ-компаний.

На этой неделе The Information сообщило, что OpenAI, Anthropic и Google DeepMind вместе создают организацию для разработки стандартов ИИ. По словам источника издания, Альтман говорил сотрудникам: такая организация должна появиться без поддержки правительства США.

В июле Хассабис призвал США создать новый орган стандартов, который стал бы надзорной структурой для ИИ. Он, по замыслу Хассабиса, должен проверять самые передовые модели в мире и координировать замедление развития отрасли, если риски начнут расти.

Позиция администрации США

Президент Дональд Трамп отвергал опасения по поводу безопасности ИИ, называя их выдумкой, и выступал против ужесточения регулирования. По его словам, любое замедление даст Китаю преимущество в технологической гонке.

Советник Трампа по ИИ Дэвид Сакс поддержал эту позицию. Он считает преувеличенными опасения по поводу экзистенциальных рисков, связанных с ИИ. Сакс много лет инвестирует в технологическую отрасль и лично связан с её значительной частью.

Независимая проверка

На той же встрече во вторник Лехан заявил, что OpenAI поддерживает положение закона FRONTIER Act. Оно обязало бы ведущие лаборатории, работающие с передовыми моделями, допускать в свои компании «независимые организации по проверке», чтобы контролировать безопасность разработки моделей.

TechCrunch запросил комментарии у Anthropic, Google и OpenAI.