论文发现,不同LoRA矩阵对适配的贡献并不相同:条件数较大的矩阵包含更丰富、尚未充分发展的方向。κ-LoRA按条件数排序,仅更新排名前50%的矩阵,在保持标准LoRA准确率的同时,平均减少16.2%微调时间、4.5%内存开销,并将可训练参数量减半。
最近 24 小时暂无可用热度快照。