Пользователь Мэтт Смит столкнулся с ошибкой ИИ-ассистента, который самостоятельно добавил в корзину четыре упаковки яиц бренда Vital Farms. В каждой упаковке было по 18 штук, в результате чего покупатель получил 72 яйца, хотя яиц не было в его списке покупок.
На вопрос о причинах заказа ИИ не смог дать внятного ответа. Сначала система сослалась на ошибку при чтении изображения списка покупок, но позже признала, что яиц в списке не было и решение о покупке было принято без каких-либо оснований.
Этот инцидент стал примером галлюцинаций нейросетей при выполнении бытовых задач. Ранее сообщалось о рисках конфиденциальности при использовании ИИ-агентов, в частности, о случае с Muse AI от Meta, который передал домашний адрес пользователя посторонним лицам.
Смит подчеркнул, что это стало для него наглядным примером последствий ошибок больших языковых моделей. Эксперты отмечают, что, несмотря на развитие технологий, ИИ-агенты остаются склонными к ошибкам и требуют контроля со стороны человека.





