Page 347 - 《软件学报》2026年第6期
P. 347

2666                                                       软件学报  2026  年第  37  卷第  6  期


                 模型复杂度下的有效性. 并且在          MNIST、CIFAR-10  和  CIFAR-100  数据集上进行实验. MNIST   数据集包含 60 000
                 张  28×28  大小的手写数字   0–9  的灰度图像, 其中   50 000  张用于训练, 10 000  张用于测试. CIFAR-10  和  CIFAR-100
                 数据集包含    50 000  个训练图像和   10, 000  个测试图像, 大小为   32×32. 这两个数据集之间唯一的区别是类别数量,
                 CIFAR-10  有  10  个类别, 而  CIFAR-100  有  100  个类别. 3  个数据集分别具有不同的规模和应用场景, 能够充分反映
                 在多样化环境中方案的有效性. 并且所选择数据集与之前研究工作                      [9,12,13,25,26] 所选择的保持一致. 这样的设计确保
                 我们的评估结果既具有代表性, 又能展示方案在不同任务下的性能表现.
                  5.2   线性层计算测试
                    设计了用于矩阵乘法的高效线性计算方法, 对具有不同输入尺寸的卷积层和全连接层进行测试, 并与之前的
                 研究工作方案进行比较. 每个层的所有输入数据都是随机采样的, 并且卷积层和全连接层的大小来自第                                  5.1  节中
                 描述的模型.
                    我们进行了     4  个全连接层测试, 矩阵维度为        (n 0 ,n 1 ). 表  1  展示了使用不同方法进行矩阵乘法的计算时间和通
                 信开销. 与先前基于同态加密的工作相比, 提出的协议计算时间减少了约                      50%–90%, 而且通信开销大致相同.

                                                  表 1 矩阵乘法的基准测试

                                    1×2048            16×1024            128×1024           512×1024
                     方法       通信开销     时间开销      通信开销     时间开销      通信开销     时间开销      通信开销     时间开销
                                (MB)     (ms)      (MB)     (ms)      (MB)     (ms)      (MB)     (ms)
                   Gazelle [12]  0.30    5.81      0.55     9.41      0.90     14.86     2.39     17.26
                    Delphi [9]  0.36     4.63      0.48     7.31      0.89     11.95     2.56     14.34
                  CrypTFlow [25]  0.38   3.48      0.43     6.63      0.85     10.88     2.62     12.58
                    GALA [13]   0.30     3.06      0.46     5.85      0.88     8.02      2.33     10.72
                   Cheetah [14]  0.32    0.87      0.52     2.66      0.85     3.63      2.66     8.94
                  FastSecNet [19]  0.27  2.13      0.33     3.46      0.81     6.34      1.96     11.39
                     Ours       0.10     0.43      0.12     1.05      0.72     2.61      1.31     6.93

                    对于卷积层计算基准测试, 测试了不同的输入和核大小. 输入尺寸表示为三维张量                          (u w ×u h ×c i ), 其中  u w  和  u h  分
                 别是输入的宽度和高度,        c i  是输入的通道数. 卷积核的大小为       (k w ×k h ×k i ), 其中   k w  和  k h  是卷积核的宽度和高度,  k i  是
                 卷积核的通道数. 将卷积计算转换为矩阵乘法后, 该框架计算时间减少了大约                        2/3  并且通信开销大致相同, 如表       2
                 所示. 由于卷积深度神经网络通常涉及大量的卷积操作, 所提出方案在卷积方面具有更好的计算效率, 更适合于隐
                 私保护预测.

                                                  表 2 卷积计算的基准测试

                                  16×16×2048         16×16×2048          32×32×32          16×16×2048
                                   1×1×128            3×3×128            3×3×32             5×5×2048
                     方法
                              通信开销     时间开销      通信开销     时间开销      通信开销     时间开销      通信开销     时间开销
                               (MB)      (ms)     (MB)      (ms)      (MB)     (ms)      (MB)     (ms)
                        [12]
                   Gazelle      0.50     45.05     0.50     74.61     0.21    109.42     2.47    852.16
                        [9]
                    Delphi      0.57     48.21     0.57     88.36     0.18    111.63     1.98    873.81
                        [13]
                    GALA        0.40     36.45     0.40     77.48     0.19    104.26     2.33    803.93
                        [14]
                   Cheetah      0.45     25.34     0.45     52.45     0.17     65.32     1.65    703.45
                  FastSecNet [19]  0.43  30.19     0.46     64.92     0.20     86.32     1.84    842.13
                     Ours       0.33     16.13     0.33     32.98     0.14     40.01     1.43    395.93

                  5.3   性能评估
                    时间开销和通信开销: 首先使用          4  个经典简单卷积深度神经网络模型在            MNIST  数据集上评估所提出的方案,
                 这些模型由全连接层和卷积层的组合组成: A: 3              个全连接层, 采用     ReLU  激活函数; B: 1  个卷积层和    1  个全连接
   342   343   344   345   346   347   348   349   350   351   352