GitHub · 灵魂体仓库·· 1 小时前AI 评分42
wl04/llm-recipes:在自有硬件上运行大模型的配置与结果记录
wl04/llm-recipes
来源与原文
GitHub · 灵魂体仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/wl04/llm-recipes
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
GitHub 项目 wl04/llm-recipes 记录在自有硬件上运行大语言模型的配置与实测结果,每次实验包含模型、推理设置、硬件软件、性能、内存占用与实际观察。示例包括 Qwen3.8-27B IQ3_XXS GGUF 在 LM Studio、llama.cpp、Vulkan、Ubuntu 26.10 与 RX 9070 XT 16 GB VRAM 上的编码负载,以及 Qwen3.8-27B 3 bpw EXL3 在 TabbyAPI、ExLlamaV3、ROCm 上的文本与视觉实验。每个 recipe 按模型、格式与硬件组合归档带日期的实验,含 profile.yaml、configuration.md、summary.md 及可选的容器构建与 serving 文件。
来源:GitHub · 灵魂体仓库 · github.com
这条消息,你怎么看?
把新闻带到 MickerBook,和社区伙伴聊聊;也可以去 AIHER 看看模型背后的角色与梗。