Page 45 - 《软件学报》2026年第3期
P. 45
1008 软件学报 2026 年第 37 卷第 3 期
显著改变. 在广阔的搜索空间中难以准确、高效地定位潜在的新近邻集合.
(2) 更新影响的非均匀性. 嵌入向量的更新对不同数据点近邻关系的影响程度并不一致, 这使得为所有数据点
均匀分配 K 近邻图更新资源的方式效率低下. 而这种不均匀性难以在计算出更新后的 K 近邻图前准确捕捉.
为了应对上述挑战, 本文提出了一种面向嵌入模型微调场景的高效 K 近邻图更新方法. 该方法的核心思想是
避免全图重建, 聚焦关键区域的局部更新, 从而在保证 K 近邻图质量的前提下, 大幅提升更新效率. 为此, 我们设
计了以下的关键更新策略.
(1) 基于乘积量化的候选近邻快速定位. 对于第 1 个挑战, 我们观察到, 尽管模型微调会导致全局嵌入向量的
变化, 但对单个数据点而言, 其 K 近邻集合的变化通常具有一定的局部性——即新的近邻更有可能出现在微调前
数据点的附近. 基于此, 本文首先在嵌入微调前对数据进行乘积量化处理. 在微调后, 我们基于量化结果可以快速
估计数据点间的近似距离, 从而高效筛选出可能成为目标点新邻居的候选集合, 避免不必要的全局搜索, 显著减少
搜索空间.
(2) 基于数据密度与数据变化幅度的动态更新资源分配. 对于第 2 个挑战, 尽管嵌入微调会对不同数据点的
K 近邻关系带来不同的影响, 并且这种影响无法直接计算, 但这种影响可以通过与其相关的关键指标进行预测. 为
此, 本文提出基于数据密度和微调前后数据变化幅度, 估算 K 近邻变化程度的方法. 基于该预测结果, 本文为每个
数据点针对性地分配不同的更新资源, 从而实现更新效率的提升.
通过上述策略, 本文所提出的方法在嵌入模型微调后, 能够在保证图结构准确性的同时, 有效降低 K 近邻图
更新的时间与计算开销, 适用于大规模、动态演化的数据场景. 第 4 节在真实数据集上的实验结果验证了该方法
在嵌入微调场景下的效率优势与结构准确性.
图 2 描述了嵌入模型微调的场景下, 不同 K 近邻图更新策略的比较. 第 1 种方式是直接忽略嵌入的变化, 继
续使用微调前的嵌入数据建立的 K 近邻图进行查询, 如图 2(a) 所示. 这种不调整 K 近邻图的方法不需要对 K 近
邻图中各点的邻居进行重新计算和调整, 因此不需要花费额外的时间, 效率高, 但由于嵌入发生了大面积变化, 因
此产生的误差较大, 查询准确度低. 第 2 种方式是使用微调后的数据从头重新构建 K 近邻图, 并使用新的 K 近邻
图进行查询, 从而达到较高的准确度, 如图 2(b) 所示. 尽管可以通过这种全量重建 K 近邻图的方法来解决此问题,
但重建过程计算成本高、资源开销大, 难以满足大规模在线系统中对实时性和效率的要求. 本文提出的面向嵌入
模型微调场景的高效 K 近邻图更新方法如图 2(c) 所示. 该方法增量调整 K 近邻图, 基于微调后的数据对原 K 近
邻图进行局部调整, 形成新的 K 近邻图, 并通过新 K 近邻图进行查询. 该方法通过快速定位候选数据与基于数据
分布进行针对性更新资源分配, 实现了较高的准确度, 同时避免了重新构建 K 近邻图, 更新效率高. 整体上看, 我
们的方法结合了前两种方法的优点, 取得了准确度和更新效率之间的平衡.
查询 查询 查询
基于微调后
K近邻图 微调后 从头建立 K近邻图 K近邻图 的数据 新K近邻图
的数据 局部调整
微调前的数据 微调后的数据 微调前的数据 微调后的数据
效率高 效率低 效率高
准确度低 准确度高 准确度高
准确度 时间 准确度 时间 准确度 时间
(a) 不调整K近邻图 (b) 重新构建K近邻图 (c) 增量调整K近邻图
图 2 不同嵌入模型微调下 K 近邻图更新策略的比较
本文第 1 节介绍高效 K 近邻图构建和更新方法的相关工作和研究现状. 第 2 节介绍本文面临的嵌入模型微
调的场景及其对 K 近邻图构建的影响. 第 3 节介绍本文提出的嵌入模型微调下的高效 K 近邻图更新算法. 第 4 节

