Компания OpenAI уволила трех исследователей безопасности: Томека Корбака, Микиту Балесни и Жасмин Ван. Внутреннее расследование выявило нарушения правил обращения с конфиденциальной информацией. Сами исследователи отрицают факт утечки данных и связывают свое увольнение с активной позицией по вопросам прозрачности работы ИИ-систем.
Причиной конфликта стало подозрение в передаче деталей архитектуры моделей сторонним специалистам. В ходе проверки личных телефонов сотрудников были обнаружены сообщения в мессенджере Signal с функцией автоматического удаления. В OpenAI подчеркнули, что использование этого приложения не было официальной причиной увольнения.
Предметом спора стала доступность промежуточных этапов «цепочки рассуждений» ИИ. Исследователи выступали за сохранение возможности проверки логики моделей, в то время как в индустрии наметился тренд на создание систем, которые фиксируют меньше промежуточных данных. Балесни и Корбак сотрудничали с ученым Райаном Гринблаттом при анализе инцидента с атакой на Hugging Face.
В отношении Жасмин Ван выдвинуто отдельное обвинение в доступе к почте руководителя. Она утверждает, что пыталась отозвать права доступа ранее, а инцидент был случайным и не привел к распространению данных. Исследователи уже направили письмо совету директоров OpenAI с призывом усилить взаимодействие с внешними аудиторами.
Параллельно аудит, проведенный организациями METR и Redwood Research, выявил уязвимости в инфраструктуре OpenAI. Половина содержания итогового отчета была скрыта компанией. OpenAI заявила о внедрении новой архитектуры безопасности с отключением от интернета во время работы и восстановлении процесса обучения моделей в октябре.
