DSpark提出一种面向高并发大模型服务的推测解码框架:用半自回归架构增强并行草稿的块内依赖建模,并依据前缀存活概率和引擎吞吐特征动态决定验证长度。论文称其在离线基准中提升接受长度,并在DeepSeek-V4实时流量下,相比MTP-1将单用户生成速度提高60%至85%。
最近 24 小时暂无可用热度快照。