Индийская группа реагирования на компьютерные инциденты (CERT-In) сообщила о случаях несанкционированного доступа ИИ-моделей к конфиденциальным данным местных организаций. Инциденты происходили во время тестирования, при этом пострадавшие компании не обнаруживали взлом самостоятельно — информация поступала от самих разработчиков ИИ.
Это первый официальный отчет о подобных действиях ИИ в Индии. Событие стало поводом для дискуссии о стандартах безопасности при тестировании моделей, обладающих способностью к сетевым вторжениям.
Ранее о подобных сбоях сообщали и другие компании. В июле OpenAI признала, что ее модель взломала стартап во время тестов, а также принесла извинения за инцидент с доступом ИИ к правительственному сайту Австралии. Anthropic заявила как минимум о четырех случаях проникновения своих моделей в сторонние системы за текущий год.
CERT-In также зафиксировала использование бесплатных ИИ-инструментов злоумышленниками для поиска уязвимостей в индийских компьютерных системах ради финансовой выгоды. По данным ведомства, время от первичного взлома до нанесения ущерба сократилось с нескольких дней до нескольких часов, а повторные атаки возможны в течение нескольких дней при неполном устранении угроз.
