跳到正文
GitHub · 灵魂体仓库·· 6 天前AI 评分41

tiny-llm-eval-factors:一个可复现的本地大语言模型推理因素研究工作台

ZisIsNotZis/tiny-llm-eval-factors

来源与原文

GitHub · 灵魂体仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/ZisIsNotZis/tiny-llm-eval-factors

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

ZisIsNotZis 在 GitHub 发布的 tiny-llm-eval-factors 是一个可复现的研究工作台,用于测量本地大语言模型的量化、模型规模、解码协议与 benchmark 行为等因素。`./reproduce.sh` 全流程在本机干净 clone、12 核 CPU、无 GPU 环境实测约 41.1/49.9/60.2 秒,可从 experiments.sqlite 逐字节重建 report.html,CJK 字体缺失或版本不符时构建直接失败。仓库分发 337 个逐题评测产物(3.45 MB)供 fresh clone 验证,但 .gguf 模型权重字节已丢失,评测运行本身也需 GPU 与模型文件。

来源:GitHub · 灵魂体仓库 · github.com