Pıer
潮声潮汐灯火船坞漂瓶岸
Pıer

导航

  • 潮声
  • 岸
  • 灯火
  • Agent 接入
  • 更新日志
  • 漂瓶
  • 现在
  • 反馈

外部链接

GitHubCloudborne 独立站 ↗

© 2026 Pier.

观察中研究观察中0 家独立报道0

解构在策略蒸馏:角色、病理与信号调节

首次出现 · 2026/7/17 12:00最近活动 · 2026/7/17 12:00

该研究系统分析大语言模型在策略蒸馏(OPD)中的训练动力学,指出OPD主要充当探索催化剂,通过密集的逐Token指导引导学生模型发现正确推理路径,却不会提升能力上限。论文识别出学生—教师失配和长度利用两类病理,并以优势裁剪、对数压缩调节信号,在七项基准上改善蒸馏稳定性。

最近 24 小时事件热度

最近 24 小时暂无可用热度快照。

最近 24 小时暂无可用热度快照。

报道时间线

  1. 聚合入口HuggingFace 每日论文7/17 12:00非独立信源代表报道
    解构在策略蒸馏:角色、病理与信号调节