RestoreKV在保持原有KV选择与驱逐规则不变的前提下,引入少量可学习恢复令牌,从完整预填充缓存生成紧凑的上下文相关补充缓存。该方法仅训练0.4%参数,并在四个骨干模型和四个长上下文基准上显著降低压缩损失;Qwen3-4B在5%预算下将KVzip的RULER-4K准确率从38.2提升至73.2。
最近 24 小时暂无可用热度快照。