GitHub · 3D 生成新仓库·· 10 天前精选AI 评分65
gguf2mlx 新增 Qwen3-VL-8B 文本条件编码器转换,支持 GGUF 转 MLX
barrontang/gguf2mlx
来源与原文
GitHub · 3D 生成新仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/barrontang/gguf2mlx
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
开源工具 gguf2mlx 新增 Qwen3VLTextEncoderConverter,可将 Qwen3-VL-8B 的文本条件组件转换为 BF16 safetensors,保留多模态 RoPE 分段和视觉 token ID,默认 BF16 输出,FP32 解码避免 FP16 溢出。工具面向 Apple Silicon Mac,把 GGUF 模型转成 MLX-LM 兼容的 HF 风格目录,支持 LLaVA、Qwen2-VL 和 MiniCPM-V 4.7 的 VLM 适配器、显式 direct-quant 4-bit 量化及 .mlx 打包与 SHA-256 校验。仓库明确声明文本转换未经真实推理的隐藏状态或画质验证,不支持安静降级精度,未知架构直接失败而非回退。
推荐理由
README明确区分已验证与未验证的转换边界,并把Qwen3-VL文本编码器的精度和mRoPE保留写清楚,适合想在Mac上做GGUF转MLX的读者。
来源:GitHub · 3D 生成新仓库 · github.com