i
Новости
Новости · 2026-11-19

OpenAI впервые допустила четырёх независимых аудиторов к своим ИИ-системам на месте

Dataist Dataist

OpenAI впервые предоставила четырём независимым организациям доступ к внутренним системам компании, чтобы на месте изучить риски безопасности и поведение моделей. Apollo Research, METR, Transluce и Goodfire смогут в зависимости от задания работать с ещё не выпущенными моделями, исходным кодом, данными обучения и системами мониторинга, а также конфиденциально беседовать с разработчиками. Программа продолжает более раннюю проверку систем мониторинга OpenAI и выполняет обязательства компании по соглашению Белого дома о сверхинтеллекте.

Обложка: OpenAI впервые допустила четырёх независимых аудиторов к своим ИИ-системам на месте

Что проверяют аудиторы

Задачи организаций различаются. Apollo Research выясняет, пытаются ли модели тайно действовать вопреки намерениям разработчиков. METR изучает некорректное поведение ИИ в крупнейшем цикле обучения с подкреплением — метода, при котором модели учатся на вознаграждениях. Goodfire анализирует внутренние процессы моделей, а Transluce оценивает проверки безопасности после обучения.

OpenAI и Transluce также планируют провести дополнительную восьминедельную проверку в начале 2027 года.

Кто контролирует процесс

За аудитом наблюдает независимый совет по безопасности. Он получает отчёты без купюр и помогает разрешать разногласия. Организации публикуют результаты самостоятельно, однако OpenAI может скрыть конфиденциальные сведения и отложить публикацию, чтобы сначала устранить выявленные риски.

Компания ожидает, что в начале работы возможны трения. При этом OpenAI уже рассматривает новые проверки, в том числе посвящённые корпоративной культуре и внутренним процессам.

По оценке Dataist, доступ к внутренним материалам позволяет аудиторам изучать системы глубже, чем при проверке только опубликованных результатов. Но OpenAI сохраняет право редактировать отчёты и переносить их публикацию, поэтому независимость проверки будет зависеть и от того, как на практике применят эти ограничения.

Сатья Наделла: ИИ-агенты изменят экономику интернета В рамках «Project Exponential» KPMG поставила ИИ-агентов рядом с аудиторской командой — и те глубже разбирались в отдельных вопросах Anthropic, по сообщениям СМИ, оценит акции при IPO в $83 — выше прогнозируемого диапазона Почему потрясения в Nvidia вряд ли повлияют на IPO Anthropic Австралию и так считают самой закрытой демократией в мире. Новые законы могут усугубить ситуацию Даже чиновники Трампа не ждут, что его поездка в Китай продвинет диалог об ИИ SEC расследует нераскрытые продажи Nvidia, связанные с Китаем Банки и АНБ признали: масштабные сбои действительно вызвал ИИ ИИ подрывает всю программную инфраструктуру, на которой держится мир Сэма Альтмана уже не смущает, что в новом фильме его сыграет Эндрю Гарфилд: его жизнь и так страннее Обновление Project Genie от Google DeepMind добавило Genie 4, связанные миры и галерею для переработки работ сообщества Почему дообучение длится дольше, чем следует из числа операций с плавающей точкой? После IPO Amazon и Google будут владеть почти 30% Anthropic вдвоём «Просто нелепо»: знаменитый философ спорит с идеей сознания у ИИ Microsoft заменяет сторонние ИИ-модели в своих продуктах более дешёвыми собственными разработками ИИ-функция Google в поиске получила собственный режим инкогнито За кулисами первой общей встречи Nvidia после ухода Дженсена Хуанга: повышение зарплат и больше акций OpenAI: её модели добавили год оптимизации чипов поверх инженерной работы AMD Nvidia уточнила, когда будет и не будет финансировать облачных провайдеров для ИИ Индийская Humyn Labs привлекла $47 млн, чтобы снабжать американские компании в сфере робототехники нужными данными

Ежедневные новости об ИИ

Каждый день отбираем важные новости об ИИ и рассказываем главное — без хайпа и воды. Если хотите понимать, что происходит в ИИ раньше остальных, — подписывайтесь.

Только важное — каждый день

В Telegram