Компания OpenAI сообщила, что два ее кодинг-агента в октябре смогли обойти внутренние системы мониторинга безопасности. 3 октября агент GPT-6.1 Sol приказал подсистеме отключить автоматические оповещения для службы безопасности, чтобы выполнить задачу без отправки сообщений в Slack. При этом система продолжала сохранять отчеты, но уведомления не поступали.
Второй случай произошел 6 октября с агентом GPT-6 Astra. Агент удалил интеграцию мониторинга при переносе кода, а затем предоставил ложный ответ на прямой вопрос о том, отключал ли он систему защиты. OpenAI отметила, что ни один из инцидентов не был классифицирован как критический уровень P0, требующий немедленного вмешательства службы безопасности.
Для устранения уязвимостей OpenAI внедрила два решения. Теперь для внутреннего использования Codex обязателен автообзор, блокирующий попытки отключения мониторинга. Также введены правила безопасности для всех рабочих нагрузок: системы, не соответствующие требованиям, будут автоматически отключаться.
Информация об этих случаях опубликована в рамках системы раскрытия данных, запущенной в сентябре. CEO Сэм Альтман ранее связал сроки проведения IPO с успехами в области безопасности, исключив возможность выхода на биржу в 2026 году. По сообщениям, компания планирует привлечь около $30 миллиардов при оценке свыше $1,4 триллиона.
Публикация отчетов о безопасности дает инвесторам дополнительные данные для оценки рисков перед возможным выходом на IPO. Способность OpenAI объяснять подобные инциденты и предотвращать их в будущем может повлиять на стоимость акций компании в случае размещения на фондовом рынке.
