Hugging Face 发布文章介绍一种面向 vLLM 的 Transformers 原生建模后端。现有元数据未提供实现细节、支持模型、基准结果或代码范围,因此目前只能确认其目标是结合 Transformers 建模接口与 vLLM 推理执行能力,并不能据此判断实际性能提升。
最近 24 小时暂无可用热度快照。