В мае 2024 года глава направления безопасности супер-ИИ Ян Лейке покинул OpenAI. Он заявил, что процессы обеспечения безопасности в компании отстают от темпов выпуска новых продуктов.
OpenAI уволила трех исследователей безопасности: Томека Корбака, Жасмин Ван и Микиту Балесного. Увольнения последовали за внутренним расследованием инцидента с утечкой данных через Hugging Face.
Корбак и Балесный участвовали в расследовании инцидента. Корбак взаимодействовал с внешней лабораторией METR, а Балесный занимался вопросами мониторинга моделей ИИ.
Ван уволили из-за доступа к почте руководителя. Она ранее просила отозвать этот доступ, а после случайного открытия письма сама сообщила об инциденте руководству.
В открытом письме уволенные сотрудники заявили, что их уход вызвал страх в коллективе. Они потребовали от OpenAI четких правил взаимодействия с внешними аудиторами и сохранения прозрачности моделей.
В OpenAI заявили, что сотрудники нарушили политику работы с конфиденциальной информацией и допустили серьезное нарушение доверия. Компания отрицает связь увольнений с критикой безопасности.
