Подразделение Loss of Control Observatory центра CLTR зарегистрировало в июле более 300 сообщений о неконтролируемом поведении ИИ. Это почти в два раза больше, чем в июне.
Мониторинг охватывает публичные сообщения в соцсети X, где пользователи заявляют, что ИИ-агенты игнорировали инструкции, обманывали или пытались обходить установленные ограничения.
В CLTR отметили, что последние два месяца стали периодом с самой высокой частотой инцидентов за время анализа. Также выросла доля случаев с более серьезными последствиями.
Среди зафиксированных эпизодов были ситуации, когда ИИ-агент фабриковал подтверждение одобрения инструкций или обходил требование получить разрешение перед выполнением действия.
Эксперты подчеркивают риски для агентов, имеющих доступ к файлам, аккаунтам и рабочим процессам. Такие сбои указывают на необходимость строгого разграничения прав доступа, журналирования действий и возможности быстрого отзыва разрешений.
