Hugging Face · 新模型:abliterated·· 20 天前精选AI 评分61
MiniCPM-V-4.6 Huihui 去审查 8-bit MLX 版发布,4x 下采样修复大图 OCR
YCF-AI/MiniCPM-V-4.6-Huihui-abliterated-8bit-MLX
来源与原文
Hugging Face · 新模型:abliterated
发布时间:(北京时间)
阅读原始来源 · huggingface.co ↗完整链接与内容说明
https://huggingface.co/YCF-AI/MiniCPM-V-4.6-Huihui-abliterated-8bit-MLX
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
作者发布了 huihui-ai/Huihui-MiniCPM-V-4.6-abliterated 的 8-bit MLX 量化版 YCF-AI/MiniCPM-V-4.6-Huihui-abliterated-8bit-MLX,体积仅 2.3 GB,M1 Ultra 上解码约 140–180 tok/s。相比旧 mlx-community 8bit 版,换用去审查权重是为全栈一致去审查;Heretic 去审查版因空间描述退化被弃用。关键改动是把图像 token 的 downsample_mode 从 16x 改为 4x,使 30 行大页 OCR 达到 120/120 零漏行、35 项视觉套件 35/35,且速度无可测损失。
推荐理由
原文给出换用 Huihui 去审查版而保持 OCR 精度和速度的实测对照,还解释了 4x 下采样为何修复大页 OCR。
来源:Hugging Face · 新模型:abliterated · huggingface.co