观察中新闻观察中0 家独立报道0.8
通过静态收缩绕过 Transformer Softmax 的 JAX 实验实现
首次出现 · 2026/9/12 06:36最近活动 · 2026/9/12 06:36
围绕注意力机制去 Softmax 化的尝试仍在继续。该开源项目在 JAX 中探索了一种基于静态收缩的替代设计，试图避开全局指数归一化的计算瓶颈并维持特征收敛。实现目前偏向概念验证，在主流模型规模下的稳定性与泛化表现仍缺乏完整评测。
最近 24 小时事件热度
最近 24 小时共有 8 个真实快照；峰值 0.8，出现于 9/12 14:00；最新热度 0.8。
- 9/12 14:00，事件热度 0.8
- 9/12 17:00，事件热度 0.8
- 9/12 20:00，事件热度 0.8
- 9/12 23:00，事件热度 0.8
- 9/13 02:00，事件热度 0.8
- 9/13 05:00，事件热度 0.8
- 9/13 08:00，事件热度 0.8
- 9/13 11:00，事件热度 0.8