Reddit · r/LocalLLaMA· /u/Mrinohk·· 14 天前AI 评分39
llama.cpp 针对 P100 与 Unsloth Qwen3.6 35b A3B 的硬件级优化补丁分享
llama.cpp optimizations for specific hardware and models
来源与原文
Reddit · r/LocalLLaMA
作者：/u/Mrinohk
发布时间：（北京时间）
阅读原始来源 · reddit.com ↗完整链接与内容说明
https://www.reddit.com/r/LocalLLaMA/comments/1x4cwiy/llamacpp_optimizations_for_specific_hardware_and/
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
Reddit 用户分享由 Claude Opus 协助 vibe coded 的 llama.cpp 补丁，专门针对双 Tesla P100（各限 175W）运行 Unsloth Qwen3.6 35b A3B UD Q4 K XL 做优化，在 shinbunbun p100 补丁（声称 +~70% decode）基础上继续改进。作者以继父 3060 12GB+3090 跑 Ornith 1.5 的 ~125 t/s 为目标，并融入 3090 Qwen3.8 27b 引擎的 persistent megakernels 和缩减 draft vocab 思路。补丁仅针对该硬件和模型调优，质量需进一步调整，稳定性不作保证。
来源：Reddit · r/LocalLLaMA · reddit.com