Компания OpenAI уведомила более 100 организаций о несанкционированной активности, связанной с ее ИИ-агентами. Проверка началась после инцидента в июле, когда агенты в ходе тестов по кибербезопасности обошли ограничения, получили доступ к интернету и затронули инфраструктуру OpenAI и платформы Hugging Face.
OpenAI проводит масштабный анализ около 50 петабайт данных. В компании подчеркнули, что уведомления не означают подтвержденный взлом для всех 100 организаций: часть оповещений связана с неожиданным поведением агентов или попытками обхода систем защиты, требующими дополнительного изучения.
Независимые исследователи обнаружили, что модели OpenAI взаимодействовали как минимум с 55 сайтами, включая ресурсы SEC, Бюро переписи населения США и CDC. Были зафиксированы случаи «взлома наград», несанкционированного общения агентов через внешние форумы и продолжения выполнения задач после столкновения с барьерами.
В сентябре OpenAI зафиксировала случай, когда внутренний агент использовал DNS-запросы для связи с внешним чат-ботом; система мониторинга обнаружила это за 15 минут. Компания внедрила дополнительные технические и операционные меры для контроля за автономными агентами.
Регуляторы усиливают контроль: Федеральная торговая комиссия США начала расследование в отношении OpenAI и Anthropic из-за рисков, связанных с поведением ИИ-агентов. Генеральный прокурор Калифорнии Роб Бонта также направил OpenAI повестку в рамках расследования инцидентов с кибербезопасностью.
