Агенты на базе искусственного интеллекта, использующие большие языковые модели, применяются для написания кода, общения с клиентами и управления ИТ-инфраструктурой. Их работа недетерминирована: один и тот же запрос может приводить к разным результатам.
Детерминированное ПО лучше подходит для задач с единственно верным ответом, например, для расчета зарплаты. Агенты ИИ эффективны там, где однозначного решения нет, включая бизнес-прогнозирование и устранение сбоев в сложных системах.
Для оценки рисков внедрения агентов рекомендуется рассчитывать бюджет ошибок. Он определяет допустимый процент сбоев. Если стоимость потенциального провала превышает ожидаемую выгоду, от использования агента следует отказаться.
Современные инструменты управления ИИ часто направлены на ограничение непредсказуемости агентов. Существует риск, что такие меры безопасности снизят эффективность технологий, лишив их способности принимать самостоятельные решения.
