Page 230 - 《软件学报》2026年第6期

吴俊儒 等: 基于协作关系的模型动态路由 2549

协商框架, 该框架通过生成器 (提供决策和基本原理) 和鉴别器 (评估生成器的可信度) 的不断迭代来达成共识.
Bo 等人 [40] 提出了 COPPER 框架, 通过引入模型自我反思机制增强大模型的协作能力, 并降低计算资源需求. 也有
部分研究专注于提升大模型在代码相关任务上的能力, Wang 等人 [41] 提出了一种基于协作代理的代码审阅者推荐
方法 CoRe, 其利用大模型捕获审阅请求和代码审阅者之间的内在联系, 然后通过多代理系统将各种因素整合到推
荐流程中, 从而提升代码审阅者推荐的性能. Ishibashi 等人 [42] 提出了自组织多代理框架, 能够根据代码任务的复杂
性动态扩展代理, 从而高效地生成和优化大规模代码. Wang 等人 [43] 设计了 CodeAct 框架, 使用可执行 Python 代
码将大模型代理的操作单元整合到一个统一的操作空间, 可以动态修改和更新操作, 以提高处理任务的灵活性. 有
效的模型协作机制是构建灵活、可扩展的模型互联架构的核心支撑, 使大模型在保持个性化优势的同时, 能够实
现动态组合与联合任务推理等复杂能力. 为实现模型协作, 必须设计合理的路由算法, 以根据任务场景合理选择并
组织各个模型的执行顺序与组合方式.
1.3 模型路由
模型路由是指在多模型架构中, 依据输入任务的语义特征、上下文信息或历史状态, 动态决定调用哪些模型、
以何种顺序执行的方法. 作为一种调度与控制互联中的具体实现技术, 模型路由有效支撑了复杂任务下的多模型
协作流程, 近年来受到越来越多研究者关注.
关于模型路由的研究主要聚焦于具体的路由策略制定以达到节省资源、提高回复质量等特定目标, 其中的部
分工作在前文已有所提及 (例如, AutoMix 框架). 在更大范围场景应用上, 有如 Hari 等人 [44] 提出的一个上下文感
知路由系统 Tryage, 利用语言模型路由器, 根据对单个输入提示的分析, 从模型库中最佳地选择专家模型. 还有部
分研究专注于制定合适的评估指标从而为路由策略的制定提供参考. 例如, Kim 等人 [45] 提出了 Prometheus 2 模型,
一种专门用于评估其他语言模型能力的大模型. Ye 等人 [46] 设计了 FLASK 评估协议, 其将原来粗粒度的评估信息
进一步细分为基于技能集级别的评分, 从而提高了评估的可靠性以及对于模型整体性能视图的理解. Chen 等人 [47]
利用编码器和大模型嵌入信息设计了一个利用对比损失 (样本-大模型和样本-样本损失) 进行训练的模型, 从而学
习到不同模型的收益以及可行的路由选择策略. 通过合理的路由策略, 模型协作的灵活性与适应性可以得到有效
增强. 模型路由不仅是实现模型能力按需调用与组合执行的重要手段, 更是构建高效协同互联架构不可或缺的基
础模块. 尽管上述工作通过制定优化路由提升了多模型应对复杂任务的能力, 但仍未考虑模型协作关系因素. 这样
做不仅浪费了协作关系可提供的模型间能力互补信息, 也忽略了协作关系为优化路径决策带来的先验知识.
2 基础知识

为便于介绍本文所提路由方法, 本节将介绍大模型完成文本生成任务的基本原理和流程、模型串联架构的相
关知识和形式化表达.
2.1 大模型文本生成
以大模型文本生成任务为例, 其目的是根据任务描述生成指定文本. 具体来说, 假设给定提示词 Pt = Ins||Doc,
Ins 指用于文本生成的相关指令, 如要求、目标和长度限制等; Doc 指原始文档或者参考文档, 用于辅助大模
其中
型生成文本. Doc 可以进一步表示为 Doc = {tk i } , 即包含 L 个 token ( tk) 的序列. 大模型需要利用自身的推断机制
L
i=1
Infer(·) : Pt → Rs, 生成目标文本 Rs.
2.2 模型串联架构
从协作形式上看, 大模型协作架构主要分为并联架构和串联架构. 在并联架构中, 多个模型同时处理同一输
入, 独立产生结果, 最终通过投票、加权等方式整合输出. 并联架构结构简单、响应速度快但缺乏模型间显式的信
息交互能力, 不适合开展多步推理、内容补全等复杂任务. 相比之下, 串联架构则强调模型间的顺序协作. 在生成
第 1 轮初始回复后, 后续模型在其基础上进行修改、补充等, 逐步提升响应质量. 该架构更适合用于任务复杂、需
要多轮优化的场景. 因此, 本文重点关注基于串联架构的模型协作. 如图 1 所示, 串联架构可以将多个模型进行连