Urban Institute представил руководство по внедрению агентного ИИ для государственных органов. В отличие от обычных генеративных моделей, такие системы способны самостоятельно планировать и выполнять действия. Институт предупреждает, что доступность инструментов для сотрудников вне ИТ-отделов повышает риски ошибок и сбоев в рабочих процессах, требуя новых подходов к управлению.
Примеры использования уже демонстрируют эффективность технологии. В Вирджинии применение ИИ для анализа нормативных документов позволило выявить потенциальную экономию в размере $1,4 миллиарда и сократить время обработки разрешений почти на 80%. В Юте пилотный проект с платформой Doctronic показал, что ИИ рекомендовал продление рецептов в 72% случаев, при этом врачи согласились с 91% решений.
Разработанная методология призывает ведомства фиксировать цели, целевую аудиторию и ожидаемые затраты до начала эксплуатации систем. Институт рекомендует устанавливать специфические критерии точности и справедливости, а не полагаться на общие показатели. Уровень контроля должен зависеть от того, взаимодействует ли агент с гражданами или используется только для внутренних задач.
Для обеспечения подотчетности предлагается распределить ответственность между семью ролями, включая владельца системы, специалистов по безопасности и независимых аудиторов. В их обязанности входит ведение журналов проверок, сбор отзывов и мониторинг рисков. Организациям рекомендуется вовлекать больше сотрудников в процесс установления общих стандартов и метрик эффективности.
