Page 308 - 《软件学报》2026年第4期
P. 308

王骞玥 等: 大语言模型驱动的可信政务问答技术                                                         1749


                    给定一个咨询输入, 将经历以下步骤得到对应回答.
                    (1) 关键词提取: 分析引导模块引导政务大语言模型基于用户咨询, 分析咨询涉及的政务领域关键词. 该模块
                 将用户咨询填充至关键词凝练提示模板              Keyword Template 的对应位置构建交互指令. 指令与政务大语言模型交
                 互, 分析出咨询涉及的政务领域关键词——精准扶贫, 教育资助, 普通高中, 建卡贫困户.
                    (2) 咨询意图分析: 分析引导模块进一步引导政务大语言模型基于用户咨询分析咨询意图. 模块将用户咨询填
                 充至咨询意图挖掘提示模板          Intention Template 的对应位置构建交互指令. 指令与政务大语言模型交互, 分析出咨
                 询意图——询问建档立卡贫困户学生高中可以享受哪些资助.
                    (3) 领域知识检索: 领域知识库结合 (1) 中分析结果, 检索咨询相关领域知识. 领域知识库计算步骤                        (1) 中分析
                 结果的嵌入向量与知识库内容切分文本的嵌入表示之间的相似度, 并找出相似度最高的前                              3  条领域知识.
                    (4) 信息整合与回答生成: 分析引导模块引导政务大语言模型整合步骤 (1)–(3) 产生的结果回答用户咨询. 分
                 析引导模块将步骤 (1)–(3) 结果及用户咨询填充至回答整合提示模板                  Answer Template 的对应位置构建交互指令.
                 指令与政务大语言模型交互, 根据步骤            (1)、(2) 对问题的分析以及提供的咨询相关领域知识, 针对用户咨询生成
                 回答.

                  4   政务公开信息数据集构建
                    为构建政务大语言模型和领域知识库, 本文从各官方信息发布网站中收集并整理了一个包含文档和问答对数
                 据的综合性政务公开信息数据集. 该数据集中的大部分数据源自各政府门户网站及多个政务信息公开平台, 部分
                 问答对数据由     ChatGPT 3.5 [24] 生成, 并经人工筛选精炼得到. 本文将包含文档的子数据集称为政务文档数据集, 包
                 含问答对的子数据集称为政务问答对数据集.
                    政务文档数据集主要用于构建政务领域知识库, 收集的文档数据来自各大信息发布平台, 包含不同数据类型
                 以及地区和政务主题的多层次多粒度政务信息. 政务问答对数据集用于微调构建政务大语言模型, 其包含两类数
                 据, 一类问答对主要来自各省政务服务指南及其公开的政务问答库; 另一类问答对收集自各级政府官网上选登的
                 民众疑问及解答. 政务公开信息数据集包含              1 901  篇公开政务相关文档和      10 503  条问答对. 数据集的收集及使用
                 概况如图   6  所示.

                                                          政务公开信息数据集
                                                                 构成

                                                                           问答对 (10 503条)
                                           文档 (1 901篇)
                                                                                 来源
                                                来源
                                各级政府官网                官方媒体     政务服务指南       ChatGPT 3.5    选登民众答疑
                                     类别                  类别             类别                      类别

                    宏观发展规划      政府工作报告      行业白皮书     政策相关新闻报道        官方问答对                口语化问答对
                                         用途                               用途                    用途

                                    构建政务领域知识库               微调领域大模型        模拟专家问答场景      模拟市民问答场景

                                             图 6 政务公开数据集收集及使用概况

                  4.1   政务文档数据集
                    政务文档数据集中数据类型的详细内容统计情况如图                    7  所示, 该数据集收录的各类政务文件, 体现了数据集
                 文档内容的丰富性. 政务文档数据集中政府工作报告覆盖了全国                     85%  的省级行政区. 具体而言, 数据集涵盖了东
                 部  (如浙江省)、中部     (如河南省)、西部     (如重庆市) 及少数民族地区        (如新疆维吾尔自治区) 的多个省市, 确保数
                 据集能够反映全国范围内政务公开的差异性和地域特色, 体现了文档数据覆盖地区的多样性.
   303   304   305   306   307   308   309   310   311   312   313