Исследователи из Калифорнийского университета в Ирвайне заявляют, что вполне обычный предмет или объект на обочине дороги может привести к непредсказуемому поведению автомобиля с автопилотом во время движения.
По словам автора исследования, профессора Ци Альфреда Чэня (Qi Alfred Chen), простая коробка, дорожный конус или велосипед могут «напугать» беспилотное транспортное средство и заставить его совершить опасный для других участников движения манёвр. Такие автомобили не могут отличить объекты, которые случайно оказались на дороге, или те, которые были оставлены преднамеренно. И то, и другое может привести к неустойчивому поведению транспортного средства.
Исследователи сосредоточили внимание на уязвимостях безопасности, характерных для модуля планирования — части программного кода, который управляет автономными системами вождения. Он следит за процессами принятия решений транспортным средством, определяя дальнейшие его действия: когда нужно двигаться, менять полосу движения, замедляться и останавливаться. По мнению исследователей, модуль разработан с большой осторожностью, чтобы беспилотный автомобиль не вышел из-под контроля, а протестированное программное обеспечение оказалось слишком консервативным. Это может привести к тому, что автомобиль станет препятствием на дороге.
Для тестирования был разработан инструмент под названием PlanFuzz, который может автоматически обнаруживать уязвимости в широко используемых автоматизированных системах вождения. Команда использовала его для оценки трёх различных поведенческих сценариев планирования систем автономного вождения промышленного уровня с открытым исходным кодом Apollo и Autoware. Выяснилось, что картонные коробки и велосипеды, размещённые на обочине дороги, заставляли автомобили постоянно останавливаться на пустых улицах и перекрёстках. В другом тесте автомобили, внезапно «почувствовав» опасность, забыли сменить полосу движения, как планировали до этого.
Исследователи считают, что чрезмерная осторожность многих систем автономного вождения, может оказать негативное влияние на безопасность дорожного движения.
