Page 48 - 《软件学报》2020年第10期

3024 Journal of Software 软件学报 Vol.31, No.10, October 2020

Table 2 CPU utilization during
Neuron Layer testcase
表 2 Neuron Layer 测试过程中的 CPU 利用率
总时间 用户态执 内核态执 CPU 利用

(s) 行时间(s) 行时间(s) 率(%)
原生物理 6.947 4.494 2.264 97.28
环境
GVirtuS
后端 94.705 11.833 32.306 46.61
GVirtuS
Fig.3 CPU effective time in a virtualized environment 前端 93.990 6.498 29.706 38.52

图 3 虚拟化环境下的 CPU 有效时间示意图
3 Wormhole 设计

Wormhole 加速器虚拟化框架的目标是面向数据中心的现实场景,在保证用户间强隔离性与安全性的前提
下,针对加速器提供可用性高、性能好、支持多租户的高效虚拟化方案.本文利用虚拟机作为前后端驱动程序
的保护域,结合已被广泛应用的硬件虚拟化技术,改进现有虚拟化方案的不足,实现了一个灵活通用、易于维护、
高性能的加速器虚拟化框架.图 4 展示了 Wormhole 的架构设计以及一次 API 转发调用的流程,本节将围绕该图
的设计与调用流程示例加以详细展开.

Fig.4 Architecture and invocation example of Wormhole
图 4 Wormhole 架构设计及调用流程示例