Hacker Newsalexfank
llmrun:匹配个人 GPU 算力的开源大模型查询工具
原标题:Show HN: llmrun – which open LLMs run on your GPU, and how good they are
开源64
本地部署开源大模型时,显存容量往往是最先遇到的硬性门槛。llmrun.dev 上线了一套硬件匹配与评估工具,支持按具体 GPU 型号筛选可运行的开源模型,并同步展示能力表现。在量化档位与模型架构繁杂的当下,它试图把挑选本地权重的过程理得清晰一些。
为什么值得读
为本地部署大模型提供了清晰的显存与模型匹配参照,降低了评估硬件门槛时的摸索成本。
标签
LLMOpenSourceGPULocalInferenceDevToolsHardware