跳到正文
我的
Reddit · r/LocalLLaMA· /u/Zipidyzip·· 7 小时前AI 评分52

iQuantize:面向大语言模型的桌面量化工作台,支持 GGUF、MLX 和 ONNX

End-to-End Desktop Quantization workspace for Large Language Models: Load local Safetensors or Huggingface, Step-by-Step guided Conversions to GGUF, MLX, and ONNX, and Visualize Model Changes and quick publishing to huggingface with full model card.

来源与原文

Reddit · r/LocalLLaMA

作者:/u/Zipidyzip

发布时间:(北京时间)

阅读原始来源 · reddit.com ↗
完整链接与内容说明

https://www.reddit.com/r/LocalLLaMA/comments/1xp01ck/endtoend_desktop_quantization_workspace_for_large/

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

作者开源了桌面量化工作台 iQuantize,可加载本地 Safetensors 或 Hugging Face 模型,按步骤转换为 GGUF、MLX 和 ONNX,并可视化量化前后的模型变化。结果可与原模型对比,并附带记录制作过程的 model card 发布回 Hugging Face。项目采用 Apache 2.0 许可,主要在 Apple Silicon 上测试,Windows 和 Linux 版本已有但尚未深入测试。

来源:Reddit · r/LocalLLaMA · reddit.com

这条消息,你怎么看?

把新闻带到 MickerBook,和社区伙伴聊聊;也可以去 AIHER 看看模型背后的角色与梗。