Page 95 - 《软件学报》2021年第7期

安冬冬 等:不确定环境下 hCPS 系统的形式化建模与动态验证 2013

5 总结与展望

为了提高无人驾驶系统面对不确定环境的“智能性”,本文提出了时空数据驱动的基于朴素贝叶斯分类器
的周边人工驾驶行为分类模型 DSC.基于朴素贝叶斯的分类算法对周边人工驾驶车辆的驾驶行为进行分类并
将学习器的学习结果作为参数输入到后续的系统模型中.为了提高无人驾驶系统面对不确定环境的“安全性”,
我们从模型驱动的角度出发,构建结合了人工驾驶行为分类模型的计算结果的 NSHA 模型.通过将 NSHA 模型
和需要验证的性质共同输入到统计模型验证工具 UPPAAL-SMC 以对系统模型进行验证.为了提高验证模型的
效率,我们从机器学习流程中线下训练和线上学习的过程中得到启发,采用线下验证和线上验证相结合的方法,
通过比较参数可快速得出验证结果,实现动态验证,从而帮助 hCPS 系统面对复杂多变的不确定性环境可以更
及时地进行决策.综上,我们对机器学习和形式化方法的交叉领域展开了探索研究.整个过程展现了从机器学
习、模型构建到统计模型验证的全过程.
在接下来的工作中,我们需要从以下几点进行拓展:由于条件限制,目前大多数研究关注于无人驾驶车辆本
身的数据采集,对周边车辆的监控数据通过识别或者对比来判断危险情况,还存在一定的风险.目前无人驾驶车
辆还没有“智能”到可以预判周边人类驾驶员的行为.近年来已有学者在对相关问题展开研究,例如卡内基梅隆
大学相关学者对周边车辆的相关数据进行了采集,但还未开放.在今后的工作中,我们需要模拟不同情况下的危
险驾驶行为的相关数据,从而帮助建立更完善的模型.目前我们使用的是统计模型检测的工具 UPPAAL-SMC.
暂时没有与其他高效率的验证工具进行对比,例如概率模型检测工具 PRISM.在接下来的工作中,我们考虑使用
不同的工具进行验证.目前的工作是基于监督学习的,由于强化学习在交互方面表现良好,未来我们考虑建立基
于强化学习的人工驾驶行为分类模型,从而帮助无人驾驶车辆更智能地应对复杂的环境.

References:
[1] Lee EA. Cyber physical systems: Design challenges. In: Proc. of the 11th IEEE Int’l Symp. on Object and Component Oriented
Real Time Distributed Computing (ISORC). 2008. 363–369. [doi: 10.1109/ISORC.2008.25]
[2] Robinson RM, Scobee DRR, Burden SA, et al. Dynamic inverse models in human cyber physical systems. In: Proc. of the SPIE.
2016. 9836. [doi: 10.1117/12.2223176]
[3] Leveson NG. Software safety: Why, what, and how. ACM Computing Surveys, 1986,18(2):125–163. [doi: 10.1145/7474.7528]
[4] Sun HY. Safety software testing based on multiform clocks input output transition system [Ph.D. Thesis]. Shanghai: East China
Normal University, 2017 (in Chinese with English abstract).
[5] Schirner G, Erdogmus D, Chowdhury KR, et al. The future of human in the loop cyber physical systems. IEEE Computer, 2013,
46(1):3645. [doi: 10.1109/MC.2013.31]
[6] Geiger A, Lenz P, Urtasun R. Are we ready for autonomous driving? The Kitti vision benchmark suite. In: Proc. of the IEEE Conf.
on Computer Vision and Pattern Recoginition (CVPR). 2012. 3354–3361.
[7] Elsayed GF, Shankar S, Cheung B, et al. Adversarial examples that fool both computer vision and time limited humans. In: Proc. of
the Annual Conf. on Neural Information Processing Systems, NeurIPS. 2018. 3914–3924.
[8] Finlayson SG, Bowers JD, Ito J, Zittrain JL, Beam AL, Kohane IS. Adversarial attacks on medical machine learning. Science, 2019,
363(6433):1287–1289. [doi: 10.1126/science.aaw4399]
[9] Banks VA, Plant KL, Stanton NA. Driver error or designer error: Using the perceptual cycle model to explore the circumstances
surrounding the Fatal Tesla crash on 7th May 2016. Safety Science, 2017,108:278–285. [doi: 10.1016/j.ssci.2017.12.023]
[10] Kohli P, Chadha A. Enabling pedestrian safety using computer vision techniques: A case study of the 2018 Uber Inc. selfdriving
car crash. In: Proc. of the Future of Information and Communication Conf. 2019. 261–279. [doi: 10.1007/978-3-030-12388-8_19]
[11] Woodcock J, Larsen PG, Bicarregui J, et al. Formal methods: Practice and experience. ACM Computing Surveys, 2009,41(4):19.
[doi: 10.1145/1592434.1592436]
[12] Abrial J. Formal methods: Theory becoming practice. Journal of Universal Computer Science, 2007,13:619–628.
[13] Bicarregui JC, Fitzgerald JS, Larsen PG, et al. Industrial practice in formal methods: A review. In: Proc. of the Int’l Symp. on
Formal Methods. Springer-Verlag, 2009. 810–813. [doi: 10.1007/978-3-642-05089-3_52]