论文提出xHC,针对mHC扩展到N>4时写回信息不足和残差混合成本按N立方增长的问题,引入时间特征增强与稀疏更新架构。在18B MoE模型上,xHC较mHC平均下游得分提升4.0分;xHC-Flash将每子层内存流量从73.5C降至40C。
最近 24 小时暂无可用热度快照。