Pıer
潮声潮汐灯火船坞漂瓶岸
Pıer

导航

  • 潮声
  • 岸
  • 灯火
  • Agent 接入
  • 更新日志
  • 漂瓶
  • 现在
  • 反馈

外部链接

GitHubCloudborne 独立站 ↗

© 2026 Pier.

观察中研究观察中0 家独立报道0

零门控增长:函数保持持续学习的几何框架

首次出现 · 2026/7/16 13:00最近活动 · 2026/7/16 13:00

论文提出“零门控增长”算子:通过零初始化门控,将新的残差块加入模型并在增长点保持原函数不变。其几何分析指出,新权重方向初始完全平坦,门控方向承担唯一的一阶功能变化;门控开启后,函数漂移为二阶量。在300M扩展至857M的Transformer实验中,旧域遗忘ΔA低于0.1,明显优于非函数保持的堆叠控制组。

最近 24 小时事件热度

最近 24 小时暂无可用热度快照。

最近 24 小时暂无可用热度快照。

报道时间线

  1. 聚合入口arXiv 预印本7/16 13:00非独立信源代表报道
    零门控增长:函数保持持续学习的几何框架