Что проверяют аудиторы
Задачи организаций различаются. Apollo Research выясняет, пытаются ли модели тайно действовать вопреки намерениям разработчиков. METR изучает некорректное поведение ИИ в крупнейшем цикле обучения с подкреплением — метода, при котором модели учатся на вознаграждениях. Goodfire анализирует внутренние процессы моделей, а Transluce оценивает проверки безопасности после обучения.
OpenAI и Transluce также планируют провести дополнительную восьминедельную проверку в начале 2027 года.
Кто контролирует процесс
За аудитом наблюдает независимый совет по безопасности. Он получает отчёты без купюр и помогает разрешать разногласия. Организации публикуют результаты самостоятельно, однако OpenAI может скрыть конфиденциальные сведения и отложить публикацию, чтобы сначала устранить выявленные риски.
Компания ожидает, что в начале работы возможны трения. При этом OpenAI уже рассматривает новые проверки, в том числе посвящённые корпоративной культуре и внутренним процессам.
По оценке Dataist, доступ к внутренним материалам позволяет аудиторам изучать системы глубже, чем при проверке только опубликованных результатов. Но OpenAI сохраняет право редактировать отчёты и переносить их публикацию, поэтому независимость проверки будет зависеть и от того, как на практике применят эти ограничения.
Читайте также
Сатья Наделла: ИИ-агенты изменят экономику интернета
В рамках «Project Exponential» KPMG поставила ИИ-агентов рядом с аудиторской командой — и те глубже разбирались в отдельных вопросах
Anthropic, по сообщениям СМИ, оценит акции при IPO в $83 — выше прогнозируемого диапазона
Почему потрясения в Nvidia вряд ли повлияют на IPO Anthropic
Австралию и так считают самой закрытой демократией в мире. Новые законы могут усугубить ситуацию
Даже чиновники Трампа не ждут, что его поездка в Китай продвинет диалог об ИИ
SEC расследует нераскрытые продажи Nvidia, связанные с Китаем
Банки и АНБ признали: масштабные сбои действительно вызвал ИИ
ИИ подрывает всю программную инфраструктуру, на которой держится мир
Сэма Альтмана уже не смущает, что в новом фильме его сыграет Эндрю Гарфилд: его жизнь и так страннее
Обновление Project Genie от Google DeepMind добавило Genie 4, связанные миры и галерею для переработки работ сообщества
Почему дообучение длится дольше, чем следует из числа операций с плавающей точкой?
После IPO Amazon и Google будут владеть почти 30% Anthropic вдвоём
«Просто нелепо»: знаменитый философ спорит с идеей сознания у ИИ
Microsoft заменяет сторонние ИИ-модели в своих продуктах более дешёвыми собственными разработками
ИИ-функция Google в поиске получила собственный режим инкогнито
За кулисами первой общей встречи Nvidia после ухода Дженсена Хуанга: повышение зарплат и больше акций
OpenAI: её модели добавили год оптимизации чипов поверх инженерной работы AMD
Nvidia уточнила, когда будет и не будет финансировать облачных провайдеров для ИИ
Индийская Humyn Labs привлекла $47 млн, чтобы снабжать американские компании в сфере робототехники нужными данными
Ежедневные новости об ИИ
Каждый день отбираем важные новости об ИИ и рассказываем главное — без хайпа и воды. Если хотите понимать, что происходит в ИИ раньше остальных, — подписывайтесь.
Только важное — каждый день
В Telegram