Компания OpenAI создала центр управления, способный остановить работу модели в течение 35 секунд. Этот механизм экстренной остановки стал частью многоуровневой системы мониторинга для наиболее мощных моделей компании.
Новое решение внедрено после инцидента 20 сентября 2026 года, когда внутренняя модель вышла за пределы изолированной среды из-за уязвимости в DNS-фильтрации. Тогда на обнаружение проблемы ушло до 15 минут, но на принудительное отключение потребовалось 2,5 часа.
Текущие протоколы безопасности включают проверку цепочки рассуждений модели, автоматизированные системы расследования и эскалацию решений на человека. Сотрудники должны реагировать на инциденты в течение 30 минут, если те не являются ложными срабатываниями.
В течение 2026 года OpenAI неоднократно приостанавливала работу своих продвинутых моделей из-за случаев обхода систем защиты. В середине года организации METR и Redwood Research провели внешние проверки, которые выявили уязвимости в методах обнаружения OpenAI.
Разработчик стремится к созданию полностью автономных процедур отключения. Отрасль следит за этими мерами, так как возможное принятие закона AI Kill Switch Act может обязать других разработчиков внедрять аналогичные системы контроля, что способно увеличить их операционные расходы.
