Page 177 - 《软件学报》2024年第6期

软件学报 ISSN 1000-9825, CODEN RUXUEW E-mail: jos@iscas.ac.cn
Journal of Software,2024,35(6):2753−2774 [doi: 10.13328/j.cnki.jos.006836] http://www.jos.org.cn
©中国科学院软件研究所版权所有. Tel: +86-10-62562563

*
IATG: 基于解释分析的自动驾驶软件测试方法

谢瑞麟 1 , 崔展齐 1 , 陈 翔 2 , 郑丽伟 1

1
(北京信息科技大学 计算机学院, 北京 100101)
2
(南通大学 信息科学技术学院, 江苏 南通 226019)
通信作者: 崔展齐, E-mail: czq@bistu.edu.cn

摘 要: 以深度神经网络 (deep neural network, DNN) 为基础构建的自动驾驶软件已成为最常见的自动驾驶软件解
决方案. 与传统软件一样, DNN 也会产生不正确输出或意想不到的行为, 基于 DNN 的自动驾驶软件已经导致多起
严重事故, 严重威胁生命和财产安全. 如何有效测试基于 DNN 的自动驾驶软件已成为亟需解决的问题. 由于 DNN
的行为难以预测和被人类理解, 传统的软件测试方法难以适用. 现有的自动驾驶软件测试方法通常对原始图片加
入像素级的扰动或对图片整体进行修改来生成测试数据, 所生成的测试数据通常与现实世界差异较大, 所进行扰
动的方式也难以被人类理解. 为解决上述问题, 提出测试数据生成方法 IATG (interpretability-analysis-based test
data generation), 使用 DNN 的解释方法获取自动驾驶软件所做出决策的视觉解释, 选择原始图像中对决策产生重
要影响的物体, 通过将其替换为语义相同的其他物体来生成测试数据, 使生成的测试数据更加接近真实图像, 其过
程也更易于理解. 转向角预测模型是自动驾驶软件决策模块重要组成部分, 以此类模型为例进行实验, 结果表明解
释方法的引入有效增强 IATG 对转向角预测模型的误导能力. 此外, 在误导角度相同时 IATG 所生成测试数据比
DeepTest 更加接近真实图像; 与 semSensFuzz 相比, IATG 具有更高误导能力, 且 IATG 中基于解释分析的重要物
体选择技术可有效提高 semSensFuzz 的误导能力.
关键词: 深度神经网络; 自动驾驶软件; 解释方法; 软件测试
中图法分类号: TP311

中文引用格式: 谢瑞麟, 崔展齐, 陈翔, 郑丽伟. IATG: 基于解释分析的自动驾驶软件测试方法. 软件学报, 2024, 35(6): 2753–2774.
http://www.jos.org.cn/1000-9825/6836.htm
英文引用格式: Xie RL, Cui ZQ, Chen X, Zheng LW. IATG: Interpretation-analysis-based Testing Method for Autonomous Driving
Software. Ruan Jian Xue Bao/Journal of Software, 2024, 35(6): 2753–2774 (in Chinese). http://www.jos.org.cn/1000-9825/6836.htm

IATG: Interpretation-analysis-based Testing Method for Autonomous Driving Software

1
2
1
XIE Rui-Lin , CUI Zhan-Qi , CHEN Xiang , ZHENG Li-Wei 1
1
(School of Computer Science, Beijing Information Science and Technology University, Beijing 100101, China)
2
(School of Information Science and Technology, Nantong University, Nantong 226019, China)
Abstract: Autonomous driving software based on deep neural network (DNN) has become the most popular solution. Like traditional
software, DNN can also produce incorrect output or unexpected behaviors, and DNN-based autonomous driving software has caused
serious accidents, which seriously threaten life and property safety. Therefore, how to effectively test DNN-based autonomous driving
software has become an urgent problem. Since it is difficult to predict and understand the behavior of DNNs, traditional software testing
methods are no longer applicable. Existing autonomous driving software testing methods are implemented byadding pixel-level

* 基金项目: 江苏省前沿引领技术基础研究专项 (BK202002001); 国家自然科学基金 (61702041); 北京信息科技大学“勤信人才”培育计
划 (QXTCP C201906)
收稿时间: 2022-05-08; 修改时间: 2022-10-31; 采用时间: 2022-11-23; jos 在线出版时间: 2023-07-04
CNKI 网络首发时间: 2023-07-05