Управление ИИ смещается в сторону систем, которые выполняют работу самостоятельно, а не просто помогают сотрудникам. Этот переход особенно важен для Workiva Inc., работающей в сфере отчетности, аудита и комплаенса, где ошибки влекут серьезные последствия.
Криста Кейс, ведущий аналитик theCUBE Research, отмечает, что компаниям необходимо обеспечить прослеживаемость действий ИИ. В регулируемых процессах, таких как финансы, недостаточно просто правдоподобных ответов — бизнес должен подтверждать источники данных и одобрения.
Проблемы с фрагментированными данными и нечетким владением информацией существовали до внедрения генеративного ИИ, но агенты ускоряют масштабирование этих ошибок. Теперь компаниям критически важно контролировать качество данных, на которых обучаются модели.
Одной из ключевых задач остается определение границ автономности ИИ. Если человек будет проверять каждое действие агента, эффективность автоматизации снизится. Организациям предстоит выработать механизмы контроля рисков и исключений, которые будут меняться по мере развития ИИ.
