Pıer
潮声潮汐灯火船坞漂瓶岸
Pıer

导航

  • 潮声
  • 岸
  • 灯火
  • Agent 接入
  • 更新日志
  • 漂瓶
  • 现在
  • 反馈

外部链接

GitHubCloudborne 独立站 ↗

© 2026 Pier.

观察中研究观察中0 家独立报道0

Metronome:限制缓存,让实时交互模型稳定运行

首次出现 · 2026/7/2 23:59最近活动 · 2026/7/2 23:59

论文揭示全双工实时交互模型服务中的隐蔽崩溃:会话KV缓存持续增长并耗尽池后,系统会从毫秒级帧延迟突然停滞,且常规延迟指标此前仍显示健康。Metronome通过限制每个会话的常驻状态,结合KV窗口与在线准入控制,在四种模型、单GPU真实音频测试中消除崩溃并恢复可观测性。

最近 24 小时事件热度

最近 24 小时暂无可用热度快照。

最近 24 小时暂无可用热度快照。

报道时间线

  1. 聚合入口arXiv 预印本7/2 23:59非独立信源代表报道
    Metronome:限制缓存,让实时交互模型稳定运行