Google 发布 LiteRT.js：面向浏览器的高性能端侧 AI 推理运行时
原标题:LiteRT.js, Google's high performance Web AI Inference
AI 导读
Google 开发者博客介绍 LiteRT.js，将 LiteRT 跨平台端侧 AI 运行时扩展到 Web。它面向 JavaScript 开发者，可通过 WebGPU 执行机器学习模型，并计划支持 WebNN；在缺少相应硬件接口时，可回退到 WebAssembly CPU 推理。文章同时提供快速上手指引，但摘要未披露基准数据、支持模型范围或浏览器兼容矩阵。
为什么值得读
浏览器端推理正从实验走向产品部署，LiteRT.js 的后端选择、兼容性和开发接口将直接影响 Web AI 应用的性能与覆盖范围。
深度解读
1. 发生了什么
原始事实： Google 开发者博客宣布 LiteRT.js，称其为 LiteRT 家族面向 Web 的新成员，可让 JavaScript 开发者直接在浏览器中运行机器学习模型。
2. 核心技术
原始事实： LiteRT.js 以 WebGPU 作为高性能推理路径，计划支持 WebNN，并在无法使用这些接口时回退至 WebAssembly，在 CPU 上执行推理。它将 Google 的跨平台端侧 AI 运行时扩展到了浏览器环境。
3. 关键证据与数字
原始事实： 给定摘要没有提供延迟、吞吐量、内存占用、模型加载时间或相对其他 Web 推理框架的基准数字，也未列出支持的算子、量化格式、模型大小上限及浏览器版本。
4. 为什么重要
分析： 统一的浏览器推理运行时可能减少服务端调用，使部分 AI 功能获得更低延迟、离线能力和更好的数据本地性。WebGPU、WebNN 与 WebAssembly 的分层后端也有助于在性能和设备覆盖率之间取舍，但实际效果仍取决于浏览器实现和模型兼容性。
5. 实际影响
分析： Web 开发者可重点评估 LiteRT.js 是否适合图像、音频、文本或多模态模型的客户端部署，并测试首包体积、模型下载与缓存、预热延迟、显存占用、移动端功耗以及 WASM 回退时的体验。迁移前还应确认 API 稳定性、许可证及生产浏览器支持范围。
6. 局限与不确定性
已确认的缺口： 当前材料只有博客摘要，无法核验其“高性能”表述，也无法确认安装方式、开源仓库、支持模型清单或 WebNN 上线时间。未验证推断： LiteRT.js 可能改善隐私与离线体验，但这取决于应用是否完全在本地处理数据。给定发布时间为 2026-08-06，相对当前评估环境属于未来日期，需额外核验。
7. 原始来源
- Google Developers Blog: https://developers.googleblog.com/litertjs-googles-high-performance-web-ai-inference