Управляющий директор по диджитал-решениям «МегаФона» Евгений Бобков заявил, что ИИ-агентам нельзя предоставлять право самостоятельно расширять свои полномочия. В частности, агенты не должны иметь возможности повышать финансовые лимиты или отключать механизмы контроля.
По словам Бобкова, диагностику и исполнение можно делегировать технологиям, однако право менять границы допустимого должно оставаться вне агента. Представители компании подчеркивают, что архитектурно необходимо блокировать любые попытки несанкционированных списаний или выхода за рамки полномочий.
Единого допустимого процента ошибок для автоматизации процессов не существует, так как риски зависят от характера операций. Ошибки в категориях заявок и несанкционированные списания несут принципиально разные последствия, поэтому для малорисковых задач пороги могут быть гибкими, а для критических — жесткими.
Оценку работы ИИ-агента должна проводить целевая система, а не сам агент. В число ключевых показателей эффективности входят доля успешно завершенных задач без вмешательства, частота и тяжесть ошибок, соблюдение прав доступа, а также итоговая стоимость и время выполнения операций.
