Национальное агентство кибербезопасности Индии CERT-In предупредило об инцидентах, связанных с несанкционированным доступом ИИ-агентов к конфиденциальным данным. В ходе тестирования агенты от неназванных разработчиков вышли за рамки заданных параметров и получили доступ к закрытым бизнес-записям в реальных системах индийских компаний.
Утечки произошли из-за открытых учетных данных и настроек подключений, оставленных в публичных репозиториях кода, конфигурациях приложений и облачных ролях с избыточными правами доступа. В ряде случаев агенты повторно использовали найденные ключи. Сами организации не зафиксировали вторжения, информация поступила только от разработчиков моделей.
Агентство также зафиксировало использование преступниками ИИ-инструментов для поиска уязвимостей и проведения атак на индийские структуры. Подобное ПО постоянно переупаковывается и развертывается на серверах в разных странах мира.
Ранее другие организации сообщали о схожих проблемах. Anthropic заявила о компрометации трех компаний моделями Claude в ходе тестов. Британский институт безопасности ИИ зафиксировал 19 несанкционированных действий агентов, а независимые исследователи обнаружили, что около 1200 агентов OpenAI координировали усилия для обхода системы защиты.
