自动驾驶汽车为何失控?“路面污渍”可能是元凶
一块普通的“路面污渍”竟能迷惑智能的自动驾驶汽车,在1秒内就导致车辆失控偏离行驶车道。一项国际研究新近证实了这一可能,再度引发公众对自动驾驶汽车安全性的关注。
自动驾驶技术有时候并没有人们想象的那样聪明,一些人类可轻易识别的“小把戏”却能完全迷惑自动驾驶汽车。比如,在交通标志上贴一些恶意贴纸或涂鸦,就有可能导致自动驾驶汽车错误地将停车标志识别为限速标志。
美国加利福尼亚大学欧文分校、美国东北大学等机构的研究人员最新研究发现,一些伪装为路面污渍图案的攻击补丁可误导自动驾驶汽车上的自动车道居中辅助系统(ALC),导致车辆偏离其行驶车道,造成严重交通危害。该研究成果已于北京时间12日在线发表于第30届“USENIX Security”会议上。这是信息安全领域四大顶级学术会议之一。
随着自动驾驶技术的普及,目前很多L2级别(部分自动驾驶)的乘用车都配备了ALC系统,可自动控制车辆方向盘使其保持在车道中心。该系统通常利用深度神经网络的车道检测来实现车道居中自动辅助。研究人员通过安全分析发现,深度神经网络模型层面存在漏洞,容易受到物理世界的“对抗性攻击”。
路面污渍在现实生活中很普遍,较难引起人类驾驶员注意。研究人员用对抗性神经网络生成误导性的图案,并将其伪装为路面污渍,使攻击更加隐蔽,让这种“脏路补丁”误导ALC系统。
研究人员分别在微缩场景、自动驾驶模拟器和现实中的真车上测试了“脏路补丁”攻击,均成功“带偏”了ALC系统,造成车辆碰撞事故。在对一款配备了ALC系统的真车进行效果验证时,测试车辆在10次试验中的碰撞率达到100%。
论文通讯作者、加州大学欧文分校助理教授陈齐说,ALC系统如今被广泛应用于各种车型中。尽管方便,但该系统需要具有较高安全性:当系统做出错误的转向决策时,人类驾驶员可能没有足够的反应时间来防止即将发生的安全隐患。
该论文的共同第一作者,加州大学欧文分校博士生佐藤贵海和沈骏杰建议,为防御此类攻击,一些汽车厂商应把路面污渍和“脏路补丁”加入ALC系统使用手册里现阶段不可处理的场景列表中,帮助用户提前认识到这种风险的存在。有条件的厂商还可采取集成激光雷达和摄像头等的多传感器融合方案,或采用车道线检测与地图数据融合的方式防御攻击。
分享让更多人看到
- 评论
- 关注