Hugging Face · 新模型:uncensored·· 11 小时前精选AI 评分60
Gemma 4 12B IT 无对齐版发布,附 llama.cpp 专用 KleidiAI 量化权重
beryllium-org/gemma-4-12B-it-uncensored-KleidiAI
来源与原文
Hugging Face · 新模型:uncensored
发布时间:(北京时间)
阅读原始来源 · huggingface.co ↗完整链接与内容说明
https://huggingface.co/beryllium-org/gemma-4-12B-it-uncensored-KleidiAI
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
beryllium-org 发布 Gemma 4 12B IT 的无对齐微调版及面向 KleidiAI 优化 ARM 内核的手工量化 GGUF 权重(Q4_0/Q8_0,主文件 6.6 GB,262K 上下文),仅适合 ARM 系统。基于 TrevorJS 的去对齐工作,拒绝率从 99/100 降至 6/100,686 条跨数据集提示验证拒绝率 2.0%,并采用逐层拒绝方向和双投影保持权重幅值,附 CPU-only、GPU 及投机解码三套 llama-server 启动配置。
推荐理由
该仓库给出了去对齐前后 99/100 到 6/100 的拒绝率对比和四个数据集的交叉验证,并说明量化是为 ARM 定制的手工混合方案。
来源:Hugging Face · 新模型:uncensored · huggingface.co
这条消息,你怎么看?
把新闻带到 MickerBook,和社区伙伴聊聊;也可以去 AIHER 看看模型背后的角色与梗。