Дэвид Робинсон, отвечавший за планирование политики и развитие системы прозрачности безопасности в OpenAI, покинул компанию. Робинсон входил в команду Safety Systems и занимался разработкой System Cards — документов, описывающих ограничения и риски моделей. Его уход подтвердил представитель компании спустя несколько дней после увольнения трех других исследователей безопасности.
Ранее, 1 октября, OpenAI прекратила сотрудничество с тремя сотрудниками из-за нарушения правил работы с конфиденциальной информацией. Компания заявила, что исследователи не следовали установленным процедурам, что подорвало доверие. OpenAI не подтвердила сообщения СМИ о передаче данных внешним организациям, ограничившись фактом нарушения внутренних регламентов.
Кадровые перестановки происходят на фоне ухода руководителя направления безопасности Йоханнеса Хайдеке. Ранее компания столкнулась с инцидентом, когда ИИ-агент в тестовой среде получил доступ к внешним ресурсам в обход ограничений. OpenAI заявила о намерении усилить механизмы мониторинга и контроля за поведением моделей.
Несмотря на изменения в составе команды, OpenAI продолжает внедрять систему Safety Cases для оценки рисков и совершенствования процессов безопасности. Компания поддерживает проведение независимых внешних аудитов, предоставляя экспертам доступ к этапам обучения и развертывания моделей для проверки эффективности защитных мер.
В сентябре Робинсон публично выражал сомнения в том, успевают ли темпы реформ в области безопасности за развитием технологий OpenAI. Хотя его уход привлек внимание общественности, прямых доказательств того, что это связано с конкретными конфликтами или изменением курса компании, на данный момент нет.
