Reddit · r/LocalLLaMA· /u/jjusko20·· 20 天前AI 评分27
Reddit 用户 jjusko20 征集需求：为哪些模型制作新的 GGUF 动态量化版本
What models do you want to see new dynamic quants for? I'll make them.
来源与原文
Reddit · r/LocalLLaMA
作者：/u/jjusko20
发布时间：（北京时间）
阅读原始来源 · reddit.com ↗完整链接与内容说明
https://www.reddit.com/r/LocalLLaMA/comments/1wz5txe/what_models_do_you_want_to_see_new_dynamic_quants/
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
Reddit r/LocalLLaMA 用户 jjusko20 表示将在训练 alice 的 SFT 运行间隙，为社区票选的模型制作 GGUF 动态量化版本（如 Q5 K XL），按不同 tensor 类型的影响进行量化。他称不会达到 unsloth 水平，但可做出质量不错的版本，也接受微调、论文实现等其他需求，以提升求职曝光度。
来源：Reddit · r/LocalLLaMA · reddit.com