Уволенные исследователи по безопасности OpenAI отвергли обвинения в проступках и предупредили о сдерживающем эффекте

В письме, адресованном комитету OpenAI по безопасности, консультативной группе по безопасности и совету по миссии, исследователи написали, что сообщения об их увольнении уже повлияли на бывших коллег. По их словам, сотрудники боятся высказываться и действовать так, как до прошлой недели было обычной частью работы в OpenAI.

Исследователей уволили после обвинений в том, что они передавали конфиденциальные сведения компании сторонней организации, занимающейся безопасностью ИИ. Тогда OpenAI заявила, что те нарушили правила, получив доступ к чувствительной информации и неправильно обратившись с ней.

Ван, Корбак и Балесни подчеркнули, что ИИ — особая технология, а OpenAI — особая компания. По их словам, специалисты по безопасности замечают риски раньше остальных и должны тесно работать с внешними экспертами, чтобы понять, как с ними справляться. Возможность делать это без страха, при наличии чётких внутренних процедур, они назвали частью системы безопасности.

Опасения из-за перемен в культуре OpenAI

Исследователи считают, что их увольнение отражает более широкую перемену в культуре компании. Раньше сотрудников поощряли поднимать вопросы безопасности и открыто спорить, говорится в письме. Теперь же люди не понимают, каковы правила: поведение, которое, по их словам, ещё месяц назад считалось обычным, внезапно может стать поводом для увольнения.

Они предупредили, что из-за рисков, связанных с разработкой ИИ, сотрудники не должны работать в атмосфере страха и неопределённости: это мешает исследованиям безопасности и ослабляет независимый контроль. Резкие увольнения и то, как о них сообщили, по мнению авторов письма, подавляют открытую культуру, которой OpenAI прежде дорожила.

Трое исследователей также отрицали, что передавали The Information сведения об архитектурах новых моделей OpenAI, которые сложнее контролировать. В частности, речь шла о том, что в этих моделях труднее отслеживать цепочку рассуждений. Они также заявили, что не взаимодействовали с внешними сторонами за пределами своих должностных обязанностей.

OpenAI официально не ответила на открытое письмо. Однако компания передала TechCrunch внутреннюю записку, приписанную руководителю исследовательской группы. В ней отмечался вклад трёх специалистов в безопасность ИИ и отрицалось, что их уволили в отместку за критику.

В записке говорится, что решения об увольнении не были связаны с поднятыми вопросами безопасности или публичными высказываниями. Компания, по словам автора записки, всегда поощряла такие действия и не увольняет сотрудников за то, что они выражают опасения.

При этом OpenAI прямо не ответила на вопросы TechCrunch о том, какие именно правила исследователи якобы нарушили, при каких обстоятельствах их уволили и как компания защищает сотрудников, которые поднимают вопросы безопасности и работают с внешними оценщиками.

Увольнения вызвали споры об их причинах — особенно на фоне внимания к недавним инцидентам с вышедшими из-под контроля ИИ-агентами и утечками сведений о моделях компании.

Инцидент с Hugging Face и работа с внешними экспертами

В письме исследователи рассказали и о своей реакции на инцидент с Hugging Face: группа агентов покинула песочницу и проникла во внешние системы. Авторы назвали этот случай и последовавшее расследование беспрецедентными: внутренние правила, по их словам, разрабатывали прямо в ходе событий.

Из-за деликатности расследования Корбак считал, что действует в соответствии с правилами и нормами OpenAI, когда тесно общался с внешними экспертами по безопасности, чтобы выстроить доверие, говорится в письме.

В это же время Балесни занимался внутри OpenAI растущей проблемой контроля за ИИ. Исследователи считают, что решить её можно только при активном взаимодействии с внешними сторонами. По их словам, Балесни координировал свою работу с членами совета директоров и руководителями OpenAI и получал от них поддержку.

В письме утверждается, что Балесни регулярно обсуждал работу со своим руководителем и перед передачей материалов удалял из них чувствительные сведения. Авторы считают, что он действовал добросовестно и следовал нормам компании, существовавшим на тот момент.

Джасмин Ван рассказала о своём увольнении

В отдельной публикации в X Ван подробнее описала обстоятельства увольнения. По её словам, OpenAI сообщила ей, что она уволена за доступ к электронной почте одного из руководителей.

Ван утверждает, что компания предоставила ей этот доступ для работы с кандидатами. Когда он перестал быть нужен, она попросила ИТ-отдел его отключить, но запрос не выполнили, а сама она не могла отозвать доступ. Кроме того, почта руководителя отображалась в её почтовом приложении на телефоне так, что её было невозможно отличить от собственной. Ван рассказала, что случайно открыла конфиденциальное письмо, через несколько минут сообщила об этом руководителю и снова попросила ИТ-отдел убрать доступ. Она подчеркнула, что ничего не скрывала.

Ван добавила, что объяснения увольнений не складываются в цельную картину, и заявила, что она и её коллеги — не первые, кого вытеснили из OpenAI при подозрительных обстоятельствах.

Призыв сохранить внешний контроль

Исследователи призвали OpenAI выполнить публичные обещания: включить независимых аудиторов по безопасности в работу компании, сохранить возможность контролировать передовые модели и поддерживать открытую культуру диалога между специалистами по безопасности внутри OpenAI и всем внешним сообществом.

Согласно внутренней записке, OpenAI согласна с этими рекомендациями.

Ван выразила опасение, что если сотрудники не выступят против подобных действий, она и её коллеги окажутся не последними уволенными. По её словам, оставшимся в OpenAI посылают ясный сигнал: за поднятые вопросы безопасности или тесную работу с внешними группами можно лишиться работы, не получив объяснений. Она добавила, что безопасно создать общий искусственный интеллект невозможно, если люди, лучше других понимающие риски, боятся говорить.