Page 51 - 《软件学报》2020年第9期

2672 Journal of Software 软件学报 Vol.31, No.9, September 2020

导致分析不精确.新的分析框架应该融合程序级分析与系统级分析,提高时间分析的精确性;
GPU 调度和资源管理问题:科技巨头 NVIDIA 公司不公开其 GPU 调度逻辑的详细资料,阻碍了对 NVIDIA
GPU 开展实时调度研究和实验.虽然通过黑盒实验的方法可以获得很多不公开的调度规则,但是并不能确定这
份调度规则清单是否足够完备,在新架构的 GPU 上是否依然有效.对 SoC 平台上 CPU 和 GPU 访问共享内存的
分时隔离技术的研究已经取得了很大的进展,但是 CPU 与 GPU 之间显式或隐式的同步仍然会导致时间不确定
性问题.由于 AMD 公司对其 GPU 技术细节的曝露要开放许多,并提供开源驱动 GPU Open [119] ,因此,一个可行的
研究方向是以 AMD GPU+OpenCL [120] 为平台来研究 GPU 实时调度 [121] 和资源管理技术,并研发用于实时 DNN
计算的基础软件.此外,前面综述过的调度或资源管理优化的研究工作存在技术路线不够系统化的问题,可以从
GPU 程序建模分析出发,结合系统的调度和资源分配,综合研究实时性能优化技术;
面向实时系统的网络加速器协同设计问题:无论是通用还是专用网络加速器仅能在一定程度上改善网络
性能,并难以设计普适性的网络加速器结构.DNN 和网络加速器的协同设计可以提高两者的契合度,从而设计
出性能特征高度匹配的网络与网络加速器整体解决方案,并降低硬件成本.不过,这个方向的研究主要集中在提
高系统的平均性能,还未建立起满足实时系统要求的协同设计理论、性能建模与分析方法.考虑到神经网络加
速器在未来必将广泛应用于安全攸关领域,面向实时应用的协同设计理论是一个非常有意义的研究方向;
智能实时嵌入式系统可更新问题:传统的实时嵌入式系统基于量体裁衣的方式设计程序,而很少考虑应用
或系统更新之后可能会带来违背时间约束的问题(第 2.1 节中关键问题(3)).Wang 教授在文献[46]中指出了 CPS
安全攸关系统安全可更新问题和解决该问题的必要性、理论方向以及技术路线,同理,在 AI 赋能的实时嵌入式
系统中,DNN 模型也会不断地更新迭代,那么如何保证模型更新之后的人工智能应用仍然能够满足原初设计的
实时约束,将会是一个更具挑战性的理论问题,解决该问题无疑将大大促进人工智能实时嵌入式系统的发展.

References:
[1] Goodfellow I, Bengio Y, Courville A. Deep Learning. MIT Press, 2016.
[2] Molnar C. Interpretable machine learning: A guide for making black box models explainable. 2019. https://christophm.github.io/
[3] Zheng ZY, Gu SY. TensorFlow: A Practical Google Deep Learning Framework. Beijing: Publishing House of Electronic Industry,
2017 (in Chinese).
[4] Aceto L, Ingólfsdóttir A, Larsen KG, Srba J. Reactive Systems: Modelling, Specification and Verification. New York: Cambridge
University Press, 2007.
[5] Seshia SA, Sadigh D. Towards verified artificial intelligence. CoRR, 2016, abs/1606.0.
[6] Sun X, Khedr H, Shoukry Y. Formal verification of neural network controlled autonomous systems. In: Proc. of the 22nd Int’l Conf.
on Hybrid Systems: Computation and Control (HSCC). ACM, 2019. 147−156.
[7] Seshia SA, Desai A, Dreossi T, Fremont DJ, Ghosh S, Kim E, Shivakumar S, Vazquez-Chanlatte M, Yue X. Formal specification
for deep neural networks. In: Proc. of the 16th Int’l Symp. on Automated Technology for Verification and Analysis (ATVA).
Springer-Verlag, 2018. 20−34.
[8] Tuncali CE, Fainekos G, Ito H, Kapinski J. Simulation-Based adversarial test generation for autonomous vehicles with machine
learning components. In: Proc. of the 2018 IEEE Intelligent Vehicles Symp. IEEE, 2018. 1555−1562.
[9] Dreossi T, Donzé A, Seshia SA. Compositional falsification of cyber-physical systems with machine learning components. In: Proc.
of the 9th Int’l Symp. on NASA Formal Methods (NFM). Springer-Verlag, 2017: 357−372.
[10] Dreossi T, Ghosh S, Yue X, Keutzer K, Sangiovanni-Vincentelli AL, Seshia SA. Counterexample-Guided data augmentation. In:
Proc. of the 27th Int’l Joint Conf. on Artificial Intelligence (IJCAI). 2018. 2071−2078.
[11] Pulina L, Tacchella A. An abstraction-refinement approach to verification of artificial neural networks. In: Proc. of the 22nd Int’l
Conf. on Computer Aided Verification (CAV). Springer-Verlag, 2010. 243−257.
[12] Katz G, Barrett CW, Dill DL, Julian K, Kochenderfer MJ. Reluplex: An efficient smt solver for verifying deep neural networks. In:
Proc. of the 29th Int’l Conf. on Computer Aided Verification (CAV). Springer-Verlag, 2017. 97−117.
[13] Singh G, Gehr T, Mirman M, Püschel M, Vechev MT. Fast and effective robustness certification. In: Proc. of the Advances in
Neural Information Processing Systems 31: Annual Conf. on Neural Information Processing Systems (NeurIPS). Springer-Verlag,
2018. 10825−10836.