DeepLoop：面向循环 Transformer 的深度扩展与残差缩放

论文研究循环 Transformer 中重复访问同一物理模块引发的残差缩放问题。作者提出访问对齐系数 κ_R 的一阶扰动界，并在保守对齐情形下将缩放指数由 1/4 提升至 1/2，形成 DeepLoop：α=(2N)^{1/2}、β=(8N)^{-1/2}。GPT-2 small 和 medium 实验显示，启用循环深度后验证损失与下游准确率有所改善。