Page 298 - 《软件学报》2026年第2期
P. 298

张建新 等: 依存句法信息增强的完全非自回归翻译                                                         777



                                                          1.0                                       1.0
                      und  1.0  0.1  0.1  0.1  0   0.3           und  0.8  0.1  0.3  0.1  0  0.1
                                                          0.8                                       0.8
                      dann  0.1  1.0  0.1  0  0.1  0.1          dann  0.1  0.8  0.2  0.1  0.1  0

                    passierte  0.1  0.1  0.9  0.1  0.1  0.2  0.6  passierte  0.3  0.2  0.7  0.2  0.2  0  0.6

                       es  0.1  0   0.1  0.9  0.1  0.2    0.4     es  0.1  0.1  0.2  0.6  0  0.1    0.4

                     wieder  0  0.1  0.1  0.1  0.9  0.2        wieder  0  0.1  0.2  0    1.0  0.1
                                                          0.2                                       0.2
                        ·  0.3  0.1  0.2  0.2  0.2  1.0            ·  0.1  0    0   0.1  0.1  0.5
                                                          0                                         0
                           und  dann passierte  es  wieder  ·        und  dann passierte  es  wieder  ·
                               (a) GLAT encoder 对表10中的                  (b) SynNAT encoder 对表10中的
                              ൕ২ 1 编码后的词元之间的内积                         ൕ২ 1 编码后的词元之间的内积
                                                          1.0                                       1.0
                       ich  1.0  0.2  0.4  0.1  0.2  0.5         ich  0.8  0.1  0.1  0   0.3  0.2
                                                          0.8                                       0.8
                     wollte  0.2  0.9  0.1  0  0.1  0.1         wollte  0.1  1.0  0.1  0  0.2  0.1
                                                          0.6                                       0.6
                       uns  0.4  0.1  0.9  0.2  0.2  0.5         uns  0.1  0.1  1.0  0.1  0.2  0.1

                    gesund  0.1  0  0.2  0.9  0.1  0.2    0.4  gesund  0   0   0.1  1.0  0.2  0     0.4

                     halten  0.2  0.1  0.2  0.1  0.9  0.1       halten  0.3  0.2  0.2  0.2  0.9  0.1
                                                          0.2                                       0.2
                        ·  0.5  0.1  0.5  0.2  0.1  1.0            ·  0.2  0.1  0.1  0   0.1  0.5
                                                          0                                         0
                           ich  wollte  uns  gesund halten  ·        ich  wollte  uns  gesund halten  ·
                              (c) GLAT encoder 对表10中的                    (d) SynNAT encoder 对表10中的
                             ൕ২ 2 编码后的词元之间的内积                            ൕ২ 2 编码后的词元之间的内积
                                  图 12 译文相同情况下不同编码器输出的词元之间的内积案例分析



                    GALT  1.04  1.15  1.93  0.96  1.23  1.07  1.5  GLAT  1.02  2.59  1.25  1.73  0.47  1.23  1.05  2
                                                         1.0                                          1
                  SynNAT  0.89  0.51  1.29  0.63  0.30  0.62  SynNAT  0.83  0.93  0.74  0.42  0.21  0.19  0.66
                                                         0.5
                          and  then  it  happened again  ·           i  wanted  to  keep  us  healthy  ·
                         (a) ؓႋ๭12 a a b ֥ၲ໓Ս߸ყҩྐ༏᧦                 (b) ؓႋ๭12 c a d ֥ၲ໓Ս߸ყҩྐ༏᧦
                                        图 13 译文相同情况下词汇预测熵值对比案例分析

                    此外, 我们还测量了表       9  中  4  个翻译结果与整个   IWSLT14 DE→EN  蒸馏数据集中所有翻译句子的平均句法
                 质量, 使用如下    3  个层面的指标进行评估.
                    Parse Validity: 该指标衡量生成句子的依存句法树结构是否合法, 具体包括是否存在唯一的根节点, 以及是否
                 出现非法的依存关系标签         (如  dep、orphan  等). 该指标为二值型  (0  或  1), 表示依存结构是否符合基本句法规则. 该
                 评价方式参考了      SpaCy  标注标准及常用依存分析评估规则. 1         表示合法, 0   表示不合法.
                    Acceptability Score: 该指标通过在  CoLA  数据集  [82] 上训练的  BERT  分类模型进行判别, 输出句子在语法上被
                 人类接受的概率. 该得分反映了句子的“自然性”或“句法流畅度”, 其值域为                     [0, 1], 越高表示句子越符合语法规范
                 和语言习惯    [83] .
   293   294   295   296   297   298   299   300   301   302   303