Компания Waymo начала использовать автоматизированные системы мониторинга для обнаружения запрещенных предметов, включая огнестрельное оружие, с последующей передачей данных полиции. В начале сентября алгоритмы компании зафиксировали наличие оружия в салоне такси в Лос-Анджелесе, что привело к вызову правоохранительных органов и аресту двух подростков.
Внутренние камеры и программное обеспечение Waymo отслеживают соблюдение правил сервиса, запрещающих перевозку оружия, игрушечных пистолетов и иные нарушения. Хотя компания заявляет о праве передавать данные властям для обеспечения безопасности, она не уведомляет пользователей о том, что автоматика может самостоятельно инициировать обращение в полицию.
Эксперты указывают на риск ошибок компьютерного зрения и нехватку контекста у удаленных операторов, которые могут неверно интерпретировать ситуацию. Ранее Waymo уже сообщала в полицию о подростках, употреблявших алкоголь и использовавших игрушечное оружие с водяными шариками, однако детали этих инцидентов и наличие обвинений остаются неясными.
В компании работают около 70 удаленных ассистентов, однако Waymo не уточняет, кто именно занимается проверкой автоматических оповещений. Правозащитники критикуют политику компании за размытость формулировок, отмечая, что пассажиры не ожидают, что их поведение в салоне может стать поводом для прямого вмешательства полиции без предварительного предупреждения.
