通过静态收缩绕过 Transformer Softmax 的 JAX 实验实现

围绕注意力机制去 Softmax 化的尝试仍在继续。该开源项目在 JAX 中探索了一种基于静态收缩的替代设计，试图避开全局指数归一化的计算瓶颈并维持特征收敛。实现目前偏向概念验证，在主流模型规模下的稳定性与泛化表现仍缺乏完整评测。