Page 161 - 《软件学报》2026年第1期

158 软件学报 2026 年第 37 卷第 1 期

and the basic procedure of simulation testing are outlined. The literature on vehicle system safety testing over the past six years is
reviewed. Based on a universal testing framework, an autonomous driving safety testing framework tailored for vehicle systems is
developed. Second, five core research issues are identified based on the aforementioned framework, namely critical scenario generation,
test adequacy, adversarial sample generation, test optimization, and test oracle. A detailed analysis and organization of the key
technologies, research status, and development context for each issue are provided. The commonly used evaluation metrics and comparative
methods in current research are also summarized. Finally, the severe challenges faced by various research directions are summarized, and
future research opportunities are anticipated, along with potential solutions.
Key words: autonomous driving system (ADS); vehicle system safety; simulation testing

1 引 言
随着人工智能技术的应用, 近年来自动驾驶系统 (autonomous driving system, ADS) 蓬勃发展, 传统车企和互
联网公司都投入了大量的人力物力进行研发, 如图 1 所示. 例如, 百度研制了开源自驾系统 Apollo, 并实装在长沙
的无人出租车上, 运营车辆达到 100 辆 [1] ; 华为与多家车企合作, 提供智驾解决方案, 推出问界 M9、极狐阿尔法 S
等多种车型 [2] . 自动驾驶系统广泛应用, 一方面能够减少交通事故, 提升道路安全水准; 另一方面能够缓解交通压
力, 减少碳排放, 贯彻可持续发展理念.

(a) 百度 Apollo (b) 谷歌 Waymo (c) 苏宁行龙一号

图 1 自动驾驶部署实例

然而, 自动驾驶系统是复杂的网络物理系统, 软件的工程规模极其庞大, 其设计和实现可能具备安全隐患, 严
重威胁其他车辆、驾驶员和行人的安全. 随着低水平自动驾驶在汽车上广泛部署, 各类安全事故频发. 例如, 2018
年, Uber 运营的自动驾驶 SUV 在美国亚利桑那州撞击了一名横穿马路的行人并致其死亡 [3] ; 2021 年, 蔚来 ES8 在
辅助驾驶功能下未能识别高速路段上的施工车辆, 产生严重的碰撞事故, 导致驾驶员离世 [4] . 为了避免安全事故发
[6]
[5]
生, 业界提出了预期功能安全标准 (ISO 21448 )、功能安全标准 (ISO 26262 ) 等多项国际标准指导自动驾驶系
统的研发、功能验证和准入审核, 规范自动驾驶系统的安全验证流程. 开发人员也通过冗余的安全组件、智能化
辅助系统、测试评估框架增强系统的健壮性.
目前, 自动驾驶安全研究受到了研究人员的广泛关注, 一系列高价值、强可用性的方案被提出, 模块安全研究
和整车系统安全研究是两个主要方向. 前者旨在离线、独立的检测任务完成状况, 判断单个模块输出的正确性; 后
者旨在结合仿真器和测试技术验证自动驾驶系统整体运行状态. 模块安全研究是自动驾驶安全研究的基础, 已经
进行了多年的深入探索, 在感知模块 [7,8] 、规划模块 [9,10] 、预测模块 [11] 等部分都取得显著的成果. 例如, Eykholt 等
人 [7,8] 将对抗扰动从数字域迁移到物理域, 设计了抗噪声的物理对抗样本, 成功欺骗目标检测模型, 是物理世界对
抗攻击工作的里程碑. 然而, 伴随着全栈仿真器和配套工具逐渐完善, 近年来整车系统安全领域的研究热度持续攀
升. 由于自动驾驶系统构造复杂, 形式化验证等技术难以对整体建模和分析, 不适用于研究整车系统安全问题. 因
此, 当前主要的研究方法是安全测试, 通过测试整车系统挖掘潜在的跨层漏洞, 暴露出新的安全问题. 同时, 该方向
将车辆动力学模型纳入考量, 更贴近现实、更符合研究预期.
为了深入分析研究现状, 研究人员系统性地总结了自动驾驶安全领域的工作, 为后续研究提供理论支持和方
法指导. 模块安全领域研究历史悠久且成果丰硕, 存在完善的综述工作. 例如, Garcia 等人 [12] 和 Tang 等人 [13] 分别
对开源自动驾驶系统和高级辅助驾驶系统各模块的漏洞展开分析, 全面调查了开源社区中的漏洞提交和修复报
告, 总结了漏洞的成因、症状和影响范围, 辅助后续漏洞定位和修复工作. 朱向雷等人 [14] 以自动驾驶系统结构为
核心, 依次总结了针对感知、决策和辅助系统等目标的研究现状, 指导了自动驾驶安全测试工作的展开. Tang 等人 [15]