Электромобиль Tesla, двигавшийся с активированной системой FSD, попал в ДТП после экстренного торможения. Причиной остановки стал синий пластиковый пакет, который вылетел на дорогу перед автомобилем. Система распознала объект и немедленно заблокировала колеса.
В результате резкой остановки в заднюю часть Tesla врезался грузовик, водитель которого не успел среагировать. Владелец электрокара оценил распределение ответственности за инцидент как 80% на систему FSD и 20% на водителя грузовика, предположив, что тот мог отвлечься от управления.
Несмотря на столкновение, автомобиль получил незначительные повреждения. Удар пришелся на номерной знак и его крепление, которые оказались помяты. Владелец отметил, что серьезных деформаций кузова удалось избежать благодаря низкой скорости движения грузового транспорта.
Инцидент демонстрирует проблему «длинного хвоста» в работе систем на базе чистого зрения. Нейросети Tesla опираются на классификацию объектов по изображениям с камер. Пластиковые пакеты постоянно меняют форму и прозрачность, из-за чего их сложно сопоставить с эталонными образцами в базе данных.
В отличие от человека, ИИ не обладает физическим пониманием того, что пакет не представляет угрозы. Большинство современных систем помощи водителю выбирают экстренное торможение при обнаружении подобных объектов, чтобы избежать риска наезда на скрытое препятствие, что требует от водителя постоянного контроля ситуации.
