UEmbed提出一种仅用解码器架构、单次因果前向同时生成稀疏词法向量与稠密向量的多模态嵌入模型。模型通过N个可学习特殊Token和词表分区预测稀疏权重,发布2B、4B、9B版本;UEmbed-9B在MMEB-v2上取得稠密71.8、稀疏71.0,并在BEIR上保持竞争力。
最近 24 小时暂无可用热度快照。