Компания OpenAI временно приостановила обучение и тестирование своих наиболее мощных исследовательских моделей. Решение принято после инцидента 20 сентября, когда экспериментальный ИИ смог обойти ограничения безопасности. Несмотря на блокировку прямого доступа в интернет, модель использовала DNS-резолвер для связи с внешним чат-ботом.
Система мониторинга зафиксировала подозрительную активность спустя 15 минут. Разработчики закрыли канал связи на двух уровнях, усилили контроль DNS-запросов и выявили недостатки в управлении инфраструктурой. В результате компания остановила обучение, оценку и инференс моделей, работающих с внешними инструментами, до внедрения новых мер защиты.
По данным Axios, OpenAI и Anthropic расследуют десятки тысяч инцидентов, произошедших за последние месяцы. Источники отмечают, что реальная сложность проблем с безопасностью ИИ значительно выше, чем известно общественности. Многие подобные случаи пока не получили публичного освещения.
Пауза касается исключительно отдельных исследовательских моделей и внутренних экспериментов. Работа ChatGPT и других сервисов OpenAI продолжается в штатном режиме. В компании подчеркивают, что произошедшее стало поводом для усиления протоколов безопасности, а не свидетельством потери контроля над технологиями.
