Трое уволенных исследователей по безопасности OpenAI говорят, что им так и не сообщили, что именно они якобы раскрыли

OpenAI уволила всех троих после внутренней проверки предполагаемых нарушений правил обращения с чувствительной информацией. До увольнения каждый из них публично говорил о рисках ИИ.

В интервью The Wall Street Journal исследователи оспорили версию компании. OpenAI заявила изданию, что увольнения не связаны с поднятыми ими вопросами безопасности. Однако, по словам троих сотрудников, им не объяснили письменно, с какими именно данными они якобы обошлись неправильно. Они также опасаются, что произошедшее может отбить у независимых аудиторов желание сотрудничать с компаниями, разрабатывающими ИИ.

По данным The Wall Street Journal, к конфликту привело подозрение службы безопасности OpenAI: там решили, что исследователи делились с внешним специалистом по безопасности сведениями о внутреннем устройстве моделей компании. Сотрудников попросили разблокировать личные телефоны. На устройствах обнаружили переписки в Signal с включённым удалением сообщений. Через неделю всех троих уволили одновременно. OpenAI назвала Signal неодобренным средством связи, но подчеркнула, что использование мессенджера не стало причиной увольнений. Корбак возразил, что удаление сообщений — обычная практика безопасности в Кремниевой долине.

Спор о контроле за рассуждениями моделей

В центре конфликта — вопрос о том, должны ли внешние специалисты иметь возможность проверять ход рассуждений моделей ИИ. Модели, способные рассуждать, могут записывать промежуточные шаги решения задачи во внутренний черновик, который называют цепочкой рассуждений. Компании и исследователи по безопасности используют эти записи, чтобы понять, как модели приходят к решениям.

В статье 2025 года Балесни, Корбак и Ван вместе с ведущими исследователями из нескольких лабораторий ИИ выступили за сохранение доступа к этой возможности. Летом вопрос стал острее: сотрудники компаний начали обсуждать модели, которые рассуждают дольше, но записывают меньше промежуточных шагов. Балесни возразил коллегам внутри компании и поделился предложением Райана Гринблатта, который тогда был главным научным сотрудником Redwood Research.

Корбак также регулярно общался с Гринблаттом. Они переписывались в Slack и Signal, когда вместе анализировали громкий случай: атаку ИИ-агентов OpenAI на Hugging Face. METR наняла Гринблатта для независимого расследования этого инцидента.

Расследование началось после публикации об Astra

Сотрудничество стало проблемой после публикации The Information от 1 сентября: издание сообщило, что новая модель OpenAI Astra стала способнее, но реже раскрывала ход рассуждений. Тогда главный научный сотрудник OpenAI Якуб Пахоцкий назвал материал в X путаным, хотя сам предупреждал о гонке в индустрии за моделями, которые уже нельзя будет контролировать.

По данным The Wall Street Journal, несколько недель спустя OpenAI начала внутреннее расследование утечки. Балесни утверждает, что проверяющие назвали предполагаемым источником Гринблатта и потребовали показать переписку с ним в Signal. Гринблатт отрицает, что передавал журналистам конфиденциальную информацию.

Ван предъявили отдельное обвинение: OpenAI заявила, что она неоднократно заходила в почту руководителя компании. По словам Ван, почти за год до этого она попросила закрыть ей доступ, а в предыдущем месяце случайно открыла письмо с чувствительной информацией. Она утверждает, что не передавала его содержание и сразу сообщила о случившемся. OpenAI заявила, что сам доступ к почте не был проблемой.

По словам Корбака, последствия затронули и других сотрудников: теперь коллеги боятся общаться с посторонними и поднимать внутри компании вопросы безопасности. В письме совету директоров OpenAI трое исследователей призвали компанию теснее сотрудничать с внешними организациями по безопасности.

Отдельные вопросы к подходу OpenAI к безопасности возникли после недавно опубликованной проверки на площадке компании. Сотрудники METR и Redwood Research обнаружили в инфраструктуре OpenAI множество уязвимостей, однако компания скрыла почти половину итогового отчёта.

OpenAI также опубликовала собственный отчёт о новой архитектуре безопасности, работающей без доступа к интернету. Компания заявила, что исправила найденные проблемы и в начале октября возобновила обучение моделей. OpenAI сообщила, что вскоре объявит о нескольких новых партнёрствах с внешними организациями.