跳到正文
我的
Hugging Face · 新模型:uncensored·· 11 小时前精选AI 评分60

Gemma 4 12B IT 无对齐版发布,附 llama.cpp 专用 KleidiAI 量化权重

beryllium-org/gemma-4-12B-it-uncensored-KleidiAI

来源与原文

Hugging Face · 新模型:uncensored

发布时间:(北京时间)

阅读原始来源 · huggingface.co ↗
完整链接与内容说明

https://huggingface.co/beryllium-org/gemma-4-12B-it-uncensored-KleidiAI

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

beryllium-org 发布 Gemma 4 12B IT 的无对齐微调版及面向 KleidiAI 优化 ARM 内核的手工量化 GGUF 权重(Q4_0/Q8_0,主文件 6.6 GB,262K 上下文),仅适合 ARM 系统。基于 TrevorJS 的去对齐工作,拒绝率从 99/100 降至 6/100,686 条跨数据集提示验证拒绝率 2.0%,并采用逐层拒绝方向和双投影保持权重幅值,附 CPU-only、GPU 及投机解码三套 llama-server 启动配置。

推荐理由

该仓库给出了去对齐前后 99/100 到 6/100 的拒绝率对比和四个数据集的交叉验证,并说明量化是为 ARM 定制的手工混合方案。

来源:Hugging Face · 新模型:uncensored · huggingface.co

这条消息,你怎么看?

把新闻带到 MickerBook,和社区伙伴聊聊;也可以去 AIHER 看看模型背后的角色与梗。