Page 141 - 《软件学报》2026年第3期

软件学报 ISSN 1000-9825, CODEN RUXUEW E-mail: jos@iscas.ac.cn
2026,37(3):1104−1120 [doi: 10.13328/j.cnki.jos.007515] [CSTR: 32375.14.jos.007515] http://www.jos.org.cn
©中国科学院软件研究所版权所有. Tel: +86-10-62562563

*
权重残差向量量化: 向量压缩与分层索引结构

江宇轩, 姚俊杰, 侯宇轩

(华东师范大学, 上海 200062)
通信作者: 姚俊杰, E-mail: junjie.yao@sei.ecnu.edu.cn

摘 要: 随着多源异构数据、多模态等在大模型和数据湖等场景的广泛应用, 基于向量的数据检索和存储管理显
著增长. 通过将异构数据映射为高维向量表示, 并以向量索引为基础, 向量数据库将多种数据类型统一管理和高质
量相似性检索, 成为生成式检索和 AI 数据库等重要基础. 然而, 现有向量数据库在存储索引效率、索引构建复杂
度及检索准确性方面面临显著瓶颈: (1) 海量高维向量导致索引存储开销和维护成本增加; (2) 向量索引结构冗长,
内存消耗巨大; (3) 压缩技术失真引发的检索准确性下降问题仍未有效解决. 提出了一种基于权重残差向量量化
(weight residual vector quantization, WRVQ) 的框架. 该方法通过将量化方向与残差长度分离处理, 以单位向量形式
存储残差方向并附加权重标记, 实现了低失真率下的高效压缩与存储. 在索引构建方面, 设计了适配 WRVQ 量化
特性的 3 层倒排索引结构——精确匹配层、模糊匹配层与搜索层, 有机结合非对称距离计算 (asymmetric
distance computation, ADC) 与近邻搜索技术, 实现了高准确度与高效率兼具的近似最近邻检索. 在大规模数据集上
的实验结果表明, 与传统低维嵌入模型及现有量化方法相比, WRVQ 在量化损失、存储压缩比和检索召回率等关
键指标上均取得了显著提升, 且索引构建与查询性能具有显著优势.
关键词: 向量数据库; 向量量化; 近似查询处理
中图法分类号: TP311

中文引用格式: 江宇轩, 姚俊杰, 侯宇轩. 权重残差向量量化: 向量压缩与分层索引结构. 软件学报, 2026, 37(3): 1104–1120. http://
www.jos.org.cn/1000-9825/7515.htm
英文引用格式: Jiang YX, Yao JJ, Hou YX. Weight Residual Vector Quantization: Vector Compression and Hierarchical Indexing
Structure. Ruan Jian Xue Bao/Journal of Software, 2026, 37(3): 1104–1120 (in Chinese). http://www.jos.org.cn/1000-9825/7515.htm

Weight Residual Vector Quantization: Vector Compression and Hierarchical Indexing
Structure

JIANG Yu-Xuan, YAO Jun-Jie, HOU Yu-Xuan
(East China Normal University, Shanghai 200062, China)
Abstract: With the widespread application of multi-source, heterogeneous, and multi-modal data in scenarios such as large models and
data lakes, there has been a significant growth in vector-based data retrieval and storage management. By mapping heterogeneous data into
high-dimensional vector representations and leveraging vector indices, vector databases facilitate the unified management of diverse data
types and enable high-quality similarity search, establishing them as a crucial foundation for applications like generative retrieval and AI-
native databases. However, existing vector databases face significant bottlenecks in terms of storage and indexing efficiency, index
construction complexity, and retrieval accuracy. Specifically, massive high-dimensional vectors lead to increased storage overhead and
maintenance costs for indices. Furthermore, vector index structures are often bloated, resulting in substantial memory consumption.
Moreover, the degradation of retrieval accuracy caused by distortion from compression techniques remains an unresolved challenge. This

* 基金项目: 国家重点研发计划 (2024YFC2607402); 国家自然科学基金 (61972151)
本文由“向量数据库及 DB4LLM 技术”专题特约编辑高宏教授、李国良教授、张蓉教授推荐.
收稿时间: 2025-05-06; 修改时间: 2025-06-30, 2025-08-14; 采用时间: 2025-08-20; jos 在线出版时间: 2025-09-02
CNKI 网络首发时间: 2026-01-08