HuggingFace 每日论文Mohamed Eltahir
按需重构的视觉文档检索:GLIE 用生成式表征压缩多向量索引
原标题:Generative Late-Interaction Embeddings For Visual Document Retrieval
论文82
视觉文档检索中的延迟交互机制精度高,但每页上千向量的体积让存储成本居高不下。研究发现这些向量集中在仅五至六维的流形上,常规均值聚类会掉出单位球表面从而低估相似度;GLIE 方法借此将每页压缩为极少数基底向量,并在粗检后用轻量解码器按需还原全量向量。在 ViDoRe 基准上,每页仅存 4 个向量即可保留近八成检索精度。
为什么值得读
它跳出了多向量检索单纯依赖子采样或量化的降维惯性,利用嵌入几何特性证明了按需生成全量表征的可行性与极低开销。
标签
information-retrievalvisual-documentslate-interactioncolpaliindex-compressionrepresentation-learning