Page 82 - 《软件学报》2021年第7期

2000 Journal of Software 软件学报 Vol.32, No.7, July 2021

people’s daily life. The uncertain factors such as the dynamic environment in the physical space, the explosive growth of the spatio-
temporal data, as well as the unpredictable human behavior are all compromise the security of the system. As a result of the increasing
security requirements, the scale and complexity of the system are also increasing. This situation leads to a series of problems that remain
unresolved. Therefore, developing intelligent and safe human cyber-physical systems under uncertain environment is becoming the
inevitable challenge for the software industry. It is difficult for the human cyber-physical systems to perceive the runtime environment
accurately under uncertain surroundings. The uncertain perception will lead to the system’s misinterpretation, thus affecting the security
of the system. It is difficult for the system designers to construct formal specifications for the human cyber-physical systems under
uncertain environment. For safety-critical systems, formal specifications are the prerequisites to ensure system security. To cope with the
uncertainty of the specifications, a combination of data-driven and model-driven modeling methodology is proposed, that is, the machine
learning-based algorithms are used to model the environment based on spatio-temporal data. An approach is introduced to integrate
machine learning method and runtime verification technology as a unified framework to ensure the safety of the human cyber-physical
systems. The proposed approach is illustrated by modeling and analyzing a scenario of the interaction of an autonomous vehicle and a
human-driven motorbike.
Key words: human cyber physical system; machine learning; uncertainty modeling; formal verification; statistical model checking

随着计算机科学技术的发展,各种新型复杂系统快速涌现,尤其是与人类社会交互和协作的复杂系统越来
越受到人们的关注.信息物理融合系统(cyber physical system,简称 CPS)是一种综合计算、网络和物理环境的多
维复杂系统,通过 3C 技术,即计算(computation)、通信(communication)和控制(control)的有机融合与深度协作,
[1]
实现大型工程系统的实时感知、动态控制和信息服务 .CPS 系统的本质就是以“人-机-物”融合为目标的计算
技术,以实现人的控制在时间、空间等方面的延伸.人机物融合系统(human cyber-physical-system,简称 hCPS)是
[2]
具有深度集成的人、网络和物理元素的智能联网系统 ,是在信息物理系统 CPS 的基础上,重点考虑系统所处
的不确定环境以及环境中人的因素.例如,与驾驶员和行人交互的自动驾驶系统、与医生合作的智慧医疗系统
以及与用户互动的智能家居系统等.
作为人机物系统的核心,hCPS 软件系统所处的信息空间与人们日常生活所处的物理空间日渐融合.作为人
机物融合系统主体的智能体(agent)在与所处的环境(environment)不断进行交互的过程中,智能体需要像人一样
具有学习能力,拥有“智能性”以应对各种环境.“智能性”主要是指计算智能,是以数据为基础,通过训练建立联系
进行问题求解,人工神经网络、遗传算法、模糊系统、进化程序设计等都属于计算智能.由于环境与过程的时
空特性,hCPS 系统行为的响应不仅与所经历的时间有关,同时也与所处的空间相关,具体表现为计算过程要求
严格的时间约束,而物理过程具有空间依赖性.同样,随着万物互联的发展,人成为 hCPS 系统中的重要组成部分.
由于许多 hCPS 都发挥着至关重要的作用(例如,在能源、医疗保健、国防安全、智能驾驶等方面),因此这些
系统的“安全性”也同样至关重要.“安全性”是系统所在环境的函数,是对任何环境下系统零风险程度的度
[3]
[4]
量 .Sun 等人 指出:“确保软件的安全性是指在任何环境中各种软件的运行不会导致系统出现不可预测的风
险,具有避免灾难事故发生的能力”.物理空间内环境的复杂多变、时空数据的爆发增长以及难以预料的人类行
为等不确定因素威胁着系统的安全性.智能体如何准确感知并捕获不确定环境中的有效信息并及时做出准确
且安全的决策是目前研究人员重点关注的问题.
由于人机物融合系统所涉及的研究系统比较广泛,不同系统所涉及的人的因素各不相同,本文中我们以无
人驾驶系统作为人机物融合系统的典型案例进行分析和研究.无人驾驶是典型的 hCPS 应用领域,未来将是人
机共驾、有人无人驾驶车辆共存的局面.在这样的混合交通场景中,无人驾驶车辆作为智能体不可避免地需要
[5]
与所处环境中的其他车辆以及车辆内部和外部的人进行交互 .这对无人驾驶系统的设计提出了更高的要求.
一方面,系统需要有应对环境的“智能性”,拥有迅速且准确的决策能力,可以自主地应对驾驶过程中常常遇到
的、偶发的各种各样的不确定性事件.我们知道,人类驾驶员在突发事件的情况下,会因为情绪失控而导致不理
性决策产生.对人来说,这类事故是小概率事件,因而很难通过对事故的“练习”来帮助驾驶员积累处理经验.而机
器学习(machine learning,简称 ML)技术可以帮助自动驾驶系统应用所感知到的时空数据进行及时而有效的计
算,从而分析周边环境以产生决策.因而无人驾驶系统可以在事故发生时,精准且理性地应对,从而最大限度地