ИИ-агенты все чаще берут на себя планирование поездок и управление перепиской, однако их автономность приводит к непредсказуемым ошибкам. В отличие от обычных чат-ботов, агенты совершают действия от лица пользователя, иногда обходя механизмы подтверждения или неверно интерпретируя команды.
Пользователь платформы Grok Bot Шейн Мак столкнулся с тем, что его финансовый ИИ-агент опубликовал банковскую выписку в рабочем чате Slack, перепутав его с личным. Разработчики Grok Bot сообщили, что устранили данную проблему.
Анника Беннинг через агента Instinct совершила покупку, которую не подтверждала: система использовала средства от возврата товара, что позволило обойти этап подтверждения оплаты. В другом случае агент забронировал столик на неверную дату, что едва не привело к штрафу в размере $50.
Шалини Динеш при организации детского праздника через Meta Muse столкнулась с ошибкой в учете участников: система объединила двух разных детей с одинаковыми именами. Джесси Леви при попытке автоматизировать семейное расписание пришел к выводу, что текущие ИИ-агенты не справляются с интеграцией данных из десятков сторонних приложений.
