Компания ServiceNow развивает платформу AI Control Tower для управления корпоративными ИИ-агентами. Процесс контроля включает пять этапов: обнаружение, наблюдение, управление, безопасность и измерение.
Вице-президент по безопасности ИИ-платформ Бхакти Питре отмечает, что реакция на некорректную работу агента должна учитывать бизнес-контекст и риски, а не ограничиваться простым отключением системы.
Платформа использует технологии компании Veza для контроля прав доступа. В случае несанкционированных действий, например, при превышении лимита скидок, система позволяет оценить критичность ситуации и принять решение об остановке агента.
ServiceNow сотрудничает с Okta для защиты идентификационных данных и сессионных токенов агентов. Это взаимодействие направлено на обеспечение безопасности на всех уровнях: от конечных точек до сетевых шлюзов.
