Page 294 - 《软件学报》2026年第2期

张建新 等: 依存句法信息增强的完全非自回归翻译 773

4.4 GCN 子层数量的影响
我们还探讨了 GCN 子层数量 K 对模型的影响, 在蒸馏后的 IWSLT14 DE→EN 测试集上测试了不同数量的
GCN 子层, 并计算了不同 GCN 子层数量下的 BLEU 分数. 如图 5 所示, BLEU 分数在 5 层以内随着 GCN 子层数
量的增加而提升, 其中 3 层相较于两层表现出最显著的提升. 但在 3 层之后, BLEU 分数的增长趋于缓慢.

35

34

33.12
33 32.92 32.97
BLEU 32.20 32.49

32

31

30
1 2 3 4 5
Layer number of GCN
图 5 在 IWSLT14 DE→EN 任务中, GCN 使用不同层数 K 的表现

4.5 融合顺序的影响
我们还探讨了句子编码器和句法编码器的融合顺序. 图 6(a) 表示我们方法中句法编码器和句子编码器的顺
序, 而图 6(b) 表示将句法编码器和句子编码器的顺序对调的方法. 两种方法的解码器保持一致. 我们使用未蒸馏
和蒸馏后的 IWSLT14 DE→EN 测试集评估了两种方法的 BLEU 分数. 如图 7 所示, 先对句子进行编码再对句法进
行编码的方法在模型中始终获得更高的 BLEU 分数. 不同的混合方式见公式 (13)、(14).

40.0
Syn-sen
Sen-syn
37.5
35.0
32.92
32.54
32.5

BLEU 30.0
Syntax Sentence 28.93
encoder encoder 28.44
27.5
∑ ∑
25.0

Sentence Syntax 22.5
encoder encoder
20.0
(a) Sen-syn (b) Syn-sen Raw Distilled
图 6 句子编码器和语法编码器的混合模式 图 7 不同融合方法在 IWSLT14 DE→EN 任务上的表现