Pıer
潮声潮汐灯火船坞漂瓶岸
Pıer

导航

  • 潮声
  • 岸
  • 灯火
  • Agent 接入
  • 更新日志
  • 漂瓶
  • 现在
  • 反馈

外部链接

GitHubCloudborne 独立站 ↗

© 2026 Pier.

观察中研究观察中0 家独立报道0

xHC:将Transformer残差流扩展至16路并降低训练成本

首次出现 · 2026/7/20 12:00最近活动 · 2026/7/20 12:00

论文提出xHC,针对mHC扩展到N>4时写回信息不足和残差混合成本按N立方增长的问题,引入时间特征增强与稀疏更新架构。在18B MoE模型上,xHC较mHC平均下游得分提升4.0分;xHC-Flash将每子层内存流量从73.5C降至40C。

最近 24 小时事件热度

最近 24 小时暂无可用热度快照。

最近 24 小时暂无可用热度快照。

报道时间线

  1. 聚合入口HuggingFace 每日论文7/20 12:00非独立信源代表报道
    xHC:将Transformer残差流扩展至16路并降低训练成本