Page 231 - 《软件学报》2026年第6期
P. 231

2550                                                       软件学报  2026  年第  37  卷第  6  期


                 接, 上一个节点的输出, 也是后续节点的输入. 该架构在持续不断地进行任务结果优化的同时, 也会在各个节点传
                 递用于路由决策、输出优化的辅助信息              (例如, 优化方向、输出缺陷等), 从而形成一个连续的信息传递过程. 串联
                 架构旨在利用多个模型串联连接的方式, 逐步迭代优化输出内容, 从而提供令人满意的回复. 假设串联路由上具有
                 N  个模型节点   (按路由顺序排列)     M 1 ,..., M N , 输入任务为  x, 则串联架构可以表示为:

                                                 y = M N (M N−1 (... M 2 (M 1 (x))...))               (1)
                 其中,   M N (x) 为模型   M N  对于输入  x 利用自身推断机制  Infer(·) 产生的输出,   为模型串联架构产生的最终输出. 任
                                                                           y
                 何具备串联架构的路由具有如下两个特点.
                    (1) 对于路由中任意节点, 其输入来源是可以追溯的              (前一个模型的输出或者是初始输入            x).
                    (2) 路由上任何输出的来源只能是单个模型. 换句话说, 某一个节点的输出不能由多个大模型共同确定.

                                                                                         最终输出
                            任务


                                   输出     输入            输出     输入            输出     输入

                                                            ···


                           模型1                  模型2                 模型N−1                 模型N
                                    辅助信息                  辅助信息                 辅助信息
                                                     图 1 模型串联架构

                  3   基于协作关系的模型动态路由

                    本节将详细介绍基于串联架构设计的模型动态协作路由方法, 包含两个组成部分: 互评量化机制以及动态协
                 作路由算法.
                  3.1   概 述
                    如后文图    2  所示, 互评量化机制引导大模型在预设任务集上做出响应并相互评价其他大模型的响应质量, 从
                 而得到协作关系评价结果, 该结果代表两个模型节点连接的质量. 例如, 如果一个任务先经过模型                              A  的输出再经
                 过模型   B  的输出能够获得质量更高的结果, 则模型           A  与模型  B  的协作关系是高质量的. 协作关系评价结果最终转
                 化成协作关系图谱, 其中包含诸多串联架构下的理想协作关系. 该图谱信息是进行串联路由节点动态确定的依据,
                 将作为动态协作路由算法的输入. 路由算法的节点确定依赖于“一致同意规则”, 其先根据协作关系信息确定所有
                 可行协作模型     (即下一跳预设的候选路由节点), 然后在每一步节点选择中选取反对当前优化回复结果的模型作为
                 下一跳节点并在没有反对模型的情况下跳出, 从而完成串联路由的收敛.
                  3.2   互评量化机制

                    感知协作关系旨在确定模型两两之间协作质量的好坏. 例如, 任务从                     M 1  到   M 2  输出结果好还是从   M 1  到  M 3  输
                 出结果好. 一个直观的解决方法是分析串联架构中的每一条可行路径, 从输出变化中评判一对节点的协作质量. 为
                 了给予可靠的质量协作评价, 此类方法往往需要利用输出在各个节点之间的变化进行统计分析, 会花费较多的时
                 间、计算成本并且影响用户在使用串联架构的体验. 互评量化机制利用预设任务集感知模型之间的协作关系质
                 量, 从而高效、准确地识别出模型间关系. 互评量化机制分为模型互评以及模型协作质量评估两个模块. 在模型互
                 评中, 模型需要回复预设任务集且需评价其他模型的回复, 从而为协作质量评估提供参考依据. 模型协作质量评估
                 通过模型回复预设任务集的情况从中确定有效的协作关系, 最终得出协作关系图谱. 因此, 当前节点的模型回复面
                 临下一跳节点模型选择时, 其不需要穷举并尝试所有模型或随机选择模型, 而是优先参考图谱中协作质量高的模
                 型作为候选集.
   226   227   228   229   230   231   232   233   234   235   236