GitHub · 灵魂体仓库·· 21 天前AI 评分46
VirtualV LLM:面向 GGUF/llama.cpp 与 1Cat-vLLM 的硬件感知本地模型评测套件
virtuanalytica/virtualv_llm
来源与原文
GitHub · 灵魂体仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/virtuanalytica/virtualv_llm
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
VirtualV LLM 是一套硬件感知的本地模型评测套件,针对 GGUF/llama.cpp 和 1Cat-vLLM 负载在异构 GPU 池上测量质量、吞吐、硬件拓扑与来源信息,失败结果显式呈现而非生成虚构分数。
来源:GitHub · 灵魂体仓库 · github.com