用于探索、纯化与模型合并的谱重连

论文提出子空间对齐重连（SAR），通过保留基础模型谱空间中与推理有效的更新分量、移除正交分量，压缩强化学习后训练更新。作者称，SAR最低仅需约0.58%的参数即可保留超过99%的后训练性能，并改善数学推理的高k测试时探索、代码代理基准及多专家模型合并表现。