新型机器学习编译器声称可在消费级 GPU 上运行 700 亿参数以上模型，精度损失低于 1%

Ora Frontier 发布了一款新的机器学习编译器，页面标题声称它能让 700 亿参数以上的大语言模型运行在消费级 GPU 上，并将精度损失控制在 1% 以下。目前公开信息主要来自项目网站及 Hacker News 条目，尚缺少硬件配置、模型、量化方法、基准任务和复现实验细节。