Page 466 - 《软件学报》2025年第4期

1872 软件学报 2025 年第 36 卷第 4 期

5.4 防护措施
驾驶模型安全防护的重点在于保障模型的正确性, 从而根据环境条件正确进行安全驾驶决策, 此外模型的完
整性和数据也需要得到关注. 本节从驾驶模型的全阶段讨论其防护措施.
在模型训练阶段, 主要可以通过数据清洗与增强模型鲁棒性来提高模型训练阶段的安全性. 如文献 [105] 通
过 KNN 算法对训练样本做异常检测, 去除过度偏离均值的样本, 使得模型训练不会过拟合, 达到提升模型正确性
的目的. 文献 [106] 通过训练多个模型的方式提升模型的鲁棒性, 利用聚类后的不同样本集训练不同的模型, 在分
类时使用投票的方式决定最终结果, 从而使得最终模型能够在各类情况下具有良好的适用性.
在模型执行阶段, 除了主动增强模型的鲁棒性与正确性外, 模型执行阶段应该着重部署内置防御机制, 如设计
安全车载防火墙 [107] 、异常行为检测系统 [108] 等安全防护措施, 以防止攻击者对模型进行改动与窃听. 同时应严格
控制车辆各 API 端口的权限管理, 避免自动驾驶功能相关的 API 遭受恶意调用, 造成数据泄露等安全问题.
在模型更新阶段, 应该重点保护模型数据. 一是在保证模型正确性的基础上, 对传递的梯度或数据进行随机扰
动. 文献 [109] 使用差分隐私的方式, 向梯度参数中添加噪声完成混淆, 从而阻止攻击者获得训练数据. 文献 [110] 让
联邦学习参与者通过添加局部随机扰动来将梯度信息隐藏, 进而屏蔽训练数据. 二是通过数据加密的方式使模型本
vehicular cyber systems, V2X, V2V, V2R, V2I, V2N
身数据难以被解读, 如文献 [111] 利用同态加密技术, 重写算法中的多种激活函数, 同时利用密码单元实现密文计算,
以达到保护自动驾驶汽车的数据的目的. 三是增强联邦学习的安全性, 利用安全的联邦学习来辅助驾驶模型的训练
和分发, 文献 [112] 对基于联邦学习的物联网系统的威胁进行了分析, 设计了基于联邦学习的物联网安全保护框架.
此外, 对自动驾驶模型的仿真测试也常用来保障驾驶模型的安全性. 按照测试场景生成方法的不同, 可以分为
两类: 一是基于场景数据库的测试, 通过利用已有场景数据库或基于数据库构造新的场景对自动驾驶模型进行仿
真测试, 如文献 [113] 将得到的一系列场景直接进行测试, 为了降低测试开销, 文献 [114] 引入场景评估模型对场
景进行预筛选; 二是基于搜索的场景生成式测试, 通过遗传算法等启发式搜索方式在场景空间中搜索可能的致错
场景, 并通过迭代其参数增强这些场景的致错能力以实现对自动驾驶模型的仿真测试, 如文献 [115] 基于遗传算
法规定了场景变异和交叉的规则, 能够更快发现致错场景. 同时结合深度强化学习可以提高测试的效率和无偏性,
如文献 [116] 通过删除非安全关键状态并重新连接关键状态来增强马尔可夫决策过程, 从而学习到场景中具有安
全关键事件的密集信息, 从而加速测试进程.

6 研究趋势与展望

为了宏观考察本领域研究现状与趋势, 本文以 CCF 推荐中文科技期刊目录与 CCF 推荐国际期刊与会议目录
为目标刊物, 从 DBLP 数据库、中国知网数据库收集了自 2018 年到 2024 年 5 月以来 68 万余篇外文论文与 6 万
余篇中文论文, 以关键字组合搜索 (关键字搜索表如表 6 所示) 的方式确定自动驾驶汽车安全相关研究论文总计 4 218
篇, 其中外文论文 3 846 篇 (占比 91.2%), 中文论文 372 篇 (占比 8.8%), 具体情况如图 6 所示.

表 6 自动驾驶汽车安全相关论文检索关键字

领域 关键词 (英文) 关键词 (中文) 论文总量 (英/中)
sensor, camera, LiDAR, mm wave, ultrasonic radar, 传感器, 摄像头, 激光雷达, 毫米波, 超声波
环境感知 GPS, INS, UMU, GNSS, jamming, blind, damage, 雷达, GPS, INS, UMU, GNSS, 干扰, 致盲, 1 606/208
spoof, adversarial 破坏, 欺骗, 对抗
in-vehicle networks, in-car wireless networks, 车载网络, 车载无线网络, 车载网络系统,
V2X通信 174/35
V2X, V2V, V2R, V2I, V2N
model, network, machine learning, deep learning,
模型, 神经网络, 机器学习, 深度学习, 联邦
federation learning, poison, Trojan, weight,
驾驶模型 学习, 中毒, 木马, 权重, 扰动, 对抗, 窃取, 提 2 066/129
perturbation, adversarial, steal, extraction, inference,
取, 推理, 逆向
inversion

从图 6(a) 中可以看出: 自 2018 年以来, 自动驾驶汽车安全相关研究呈现快速增长的态势, 体现了自动驾驶汽
车安全日益受到学术界、工业界的重视. 具体到每一部分, 其增长趋势各有特点. 环境感知和 V2X 通信相关安全