论文指出,长上下文推理模型会大量复制输入文本,且上下文越长问题越严重。作者将根因归结为对相关证据缺乏聚焦,并提出GEAR奖励机制:鼓励与关键证据重叠、惩罚复制干扰信息。跨模型规模和基准测试中,GEAR较标准准确率奖励强化学习最高提升4.6个百分点,同时减少重复复制和思考长度。
最近 24 小时暂无可用热度快照。