观察中研究观察中0 家独立报道0
Transformer 中的距离泛化：位置编码究竟有多重要？
首次出现 · 2026/9/11 01:57最近活动 · 2026/9/11 01:57
讨论长上下文时，目光通常落在总长度的延展上。研究者转而固定上下文总量，通过延迟复制任务测试模型在未见过的 token 间距下的表现。当 RoPE、ALiBi 与无位置编码在不同间距下对照，位置标记机制在跨度解析中究竟承担了多少不可替代的作用，被重新置于审视之下。
最近 24 小时事件热度
最近 24 小时共有 8 个真实快照；峰值 0，出现于 9/12 17:00；最新热度 0。
- 9/12 17:00，事件热度 0
- 9/12 20:00，事件热度 0
- 9/12 23:00，事件热度 0
- 9/13 02:00，事件热度 0
- 9/13 05:00，事件热度 0
- 9/13 08:00，事件热度 0
- 9/13 11:00，事件热度 0
- 9/13 14:00，事件热度 0