Уволенные в OpenAI исследователи отрицают утечку: им не назвали, что они слили

Томек Корбак, Микита Балесни и Жасмин Ванг (Tomek Korbak, Mikita Balesni, Jasmine Wang), трое исследователей безопасности, уволенных из OpenAI из-за предполагаемых утечек, изложили свою версию в интервью Wall Street Journal. Они отрицают передачу конфиденциальной информации, сомневаются в официальной причине увольнения и подозревают связь с их выступлениями за более прозрачные ИИ-системы. По версии OpenAI, всех троих уволили после внутреннего расследования возможных нарушений правил обращения с чувствительной информацией. Компания сообщила газете, что увольнения не связаны с вопросами безопасности, которые поднимали исследователи. Каждый из троих до увольнения публично говорил о рисках ИИ.

Главный довод исследователей: им ни разу не сообщили письменно, какую именно информацию они якобы неправильно использовали. Кроме того, они опасаются, что дело отпугнёт независимых аудиторов безопасности от работы с ИИ-компаниями.

По данным Journal, служба безопасности OpenAI подозревала троих в передаче внешнему исследователю безопасности сведений о внутренней архитектуре моделей компании и попросила разблокировать личные телефоны. На них нашли переписки в Signal с включёнными исчезающими сообщениями. Через неделю уволили всех троих одновременно. OpenAI заявила, что Signal не входит в одобренные средства связи, но не он стал причиной увольнений. Корбак возражает: исчезающие сообщения, обычная практика безопасности по всей Кремниевой долине.

Спор касается технического вопроса с серьёзными последствиями: должны ли ИИ-компании позволять посторонним изучать, как «думают» их модели. Рассуждающие модели записывают промежуточные шаги решения на внутреннем «черновике», цепочке рассуждений (chain of thought), и компании с исследователями опираются на эти следы, чтобы понимать решения моделей. В статье 2025 года Балесни, Корбак и Ванг вместе с ведущими исследователями из нескольких ИИ-лабораторий призвали сохранить такой доступ. Летом вопрос обострился: сотрудники ИИ-компаний стали обсуждать модели, которые думают дольше, но записывают меньше промежуточных шагов. Балесни возражал внутри компании, поделившись схожим предложением Райана Гринблатта (Ryan Greenblatt), тогда главного учёного Redwood Research. Корбак тоже регулярно общался с Гринблаттом в Slack и Signal: они вместе анализировали громкий инцидент, атаку агентов OpenAI на Hugging Face; Гринблатта для независимого расследования нанимала METR.

Это сотрудничество обернулось проблемой после публикации The Information от 1 сентября: новая модель OpenAI Astra стала способнее, но показывает меньше своих рассуждений. Главный учёный OpenAI Якуб Пахоцки (Jakub Pachocki) тогда назвал материал путаным в X, хотя сам предупреждал о гонке отрасли к моделям, которые невозможно контролировать. Через несколько недель, по данным Journal, OpenAI начала внутреннее расследование утечки. Балесни говорит, что следователи назвали Гринблатта подозреваемым источником и требовали показать переписку с ним в Signal. Гринблатт отрицает, что передавал журналистам конфиденциальную информацию.

Отдельное обвинение предъявили Ванг: OpenAI заявила, что она неоднократно заходила в почтовый ящик одного из руководителей. По её словам, она почти за год до этого просила закрыть ей этот доступ, за месяц до обвинения случайно открыла письмо с чувствительным содержанием, не стала делиться его текстом и сразу сообщила об инциденте. OpenAI утверждает, что проблема не в самом доступе.

Последствия, по словам Корбака, выходят далеко за пределы троих: коллеги теперь боятся говорить с посторонними и поднимать вопросы безопасности внутри компании. В письме совету директоров OpenAI трое просят о более тесном сотрудничестве с внешними организациями по безопасности.

Отдельно The Decoder напоминает о недавно опубликованном аудите на месте, проведённом сотрудниками METR и Redwood Research: они нашли множество уязвимостей в инфраструктуре OpenAI, но компания закрыла чёрным цветом почти половину итогового отчёта. OpenAI выпустила собственный отчёт о новой архитектуре безопасности без доступа в интернет, сообщила об устранении проблем и возобновлении обучения в начале октября и пообещала вскоре объявить о нескольких новых внешних партнёрствах.

Ключевые факты

• Корбак, Балесни и Ванг, уволенные из OpenAI, отрицают передачу конфиденциальных данных и говорят, что им не сообщили письменно, какую информацию они якобы раскрыли.
• OpenAI ссылается на внутреннее расследование нарушений правил обращения с чувствительной информацией и заявляет, что увольнения не связаны с поднятыми ими вопросами безопасности.
• По данным Journal, у троих на телефонах нашли чаты в Signal с исчезающими сообщениями; через неделю уволили всех; OpenAI говорит, что причина не в Signal.
• Спор связан с доступом внешних специалистов к цепочке рассуждений моделей; расследование началось после публикации The Information о модели Astra.
• Трое просят совет директоров о более тесном сотрудничестве с внешними организациями по безопасности; недавний аудит METR и Redwood Research нашёл множество уязвимостей, а OpenAI скрыла почти половину отчёта.

Почему это важно

Конфликт касается принципиального вопроса: могут ли независимые исследователи видеть, как рассуждают модели, и что будет с сотрудниками, которые общаются с внешними специалистами по безопасности. Исследователи предупреждают, что дело может отпугнуть независимых аудиторов от работы с ИИ-компаниями, а Корбак говорит, что коллеги уже боятся обращаться к посторонним и поднимать проблемы внутри компании. Рядом стоит аудит METR и Redwood Research, где нашли множество уязвимостей в инфраструктуре OpenAI, а почти половину итогового отчёта компания скрыла.

Кому это важно

Исследователям безопасности ИИ и сотрудникам ИИ-компаний, которые общаются с внешними коллегами. Организациям, которые проводят независимые аудиты моделей и инфраструктуры. Руководителям и юристам компаний, которые выстраивают правила обращения с чувствительной информацией и расследования утечек. Также материал интересен тем, кто следит за прозрачностью рассуждений ИИ-моделей.

Как это применить

Это не инструмент и не релиз, прямого практического применения нет. Полезный вывод для читателя: в такой истории стоит отдельно смотреть на позицию каждой стороны. Исследователи заявляют, что письменного объяснения не получили, а OpenAI называет причиной нарушение внутренних правил. Следить имеет смысл за реакцией совета директоров OpenAI на письмо троих и за заявленными новыми внешними партнёрствами компании.

Можно ли доверять

Материал The Decoder пересказывает интервью Wall Street Journal; прямых цитат участников в нём нет, все высказывания переданы своими словами. Версии сторон расходятся и не проверены независимо: исследователи отрицают утечку, OpenAI говорит о нарушениях правил. В тексте не сказано, какую именно информацию OpenAI считает утёкшей, и нет точной даты увольнений. Заявления об исправлении проблем и возобновлении обучения принадлежат самой OpenAI.

Риски и подводные камни

Известна лишь часть картины: суть обвинения компании не раскрыта, а у каждой стороны свой интерес в трактовке событий. Нельзя утверждать, что увольнения связаны с позицией исследователей по прозрачности ИИ: это их подозрение, которое OpenAI отвергает. Версия о том, что чаты в Signal были в центре расследования, исходит от исследователей и Journal, а компания называет Signal неодобренным средством связи, но не причиной увольнений. Неизвестно, планируют ли уволенные судебные действия и ответил ли совет директоров на их письмо.