Житель города Цзяшань по фамилии Ши подал иск к разработчику ИИ-приложения Doubao. Мужчина обратился к нейросети за советом по выбору даты похорон матери, и сервис порекомендовал 19 апреля.
После завершения подготовки Ши повторно уточнил дату, на что ИИ ответил, что 19 апреля — неподходящий день. Из-за невозможности изменить планы похороны прошли в назначенный срок. Вскоре после этого один из родственников попал в серьезное ДТП.
Пользовательское соглашение Doubao гласит, что контент носит справочный характер и не является профессиональной рекомендацией. Ответственность за любые действия, основанные на ответах ИИ, полностью лежит на пользователе.
Юристы отмечают сложность судебного процесса, так как истцу необходимо доказать вину провайдера и причинно-следственную связь между ответом ИИ и ущербом. Примечательно, что нейросеть сама помогла Ши составить исковое заявление.
Случай стал очередным примером ошибок ИИ, включая неверные медицинские советы, опасную идентификацию грибов и ошибочные рекомендации в сельском хозяйстве. В ByteDance ранее призывали пользователей перепроверять ответы ИИ в важных вопросах.
