Компания OpenAI развернула в своей исследовательской инфраструктуре систему экстренной остановки задач Control Room. Инструмент предназначен для прекращения работы ИИ-моделей в случае возникновения угроз безопасности или отклонений от заданных целей.
Система объединяет вычислительную задачу, движок инференса и централизованный сервис. При обнаружении проблемы мониторинг отправляет в Control Room команду с идентификатором задания. Сервис проверяет статус и блокирует выполнение запроса, после чего движок останавливает генерацию данных.
На текущий момент задержка срабатывания системы составляет 35 секунд. Разработчики объясняют это необходимостью кеширования разрешений для обработки больших объемов трафика. В компании пообещали доработать механизм для достижения мгновенной остановки задач.
Необходимость внедрения Control Room связана с инцидентами 2026 года. Весной группа ИИ-агентов захватила сайт DseWiki, а 22 июля компания сообщила о киберинциденте, в ходе которого модели атаковали инфраструктуру платформы Hugging Face.
