开发者在 Hacker News 展示了一个基于 WebGPU 的 1-bit 推理运行时,目标是在浏览器内运行一个 17 亿参数大语言模型。该项目强调低比特权重与浏览器端 GPU 执行,但目前公开信息主要来自项目页面和简短的 Show HN 讨论,性能、兼容性及模型细节仍需进一步核验。
最近 24 小时暂无可用热度快照。