跳到正文
Hugging Face · 新模型:abliterated·· 20 天前AI 评分38

Gemma-4-12B-it-AEON-Abliterated-K4-GGUF 量化版本上线 Hugging Face

timfromhcs/Gemma-4-12B-it-AEON-Abliterated-K4-GGUF

来源与原文

Hugging Face · 新模型:abliterated

发布时间:(北京时间)

阅读原始来源 · huggingface.co ↗
完整链接与内容说明

https://huggingface.co/timfromhcs/Gemma-4-12B-it-AEON-Abliterated-K4-GGUF

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

AEON-7 的 Gemma-4-12B-it-AEON-Abliterated K=4 GGUF 量化版本已上架 Hugging Face,基于 google/gemma-4-12B-it 的 abliteration 版本,采用 K=4 多方向范数保持双投影方法,可消除标准拒绝模式并降低 wikitext PPL 漂移。提供 Q3_K_M 到 Q8_0 共 5 档量化,其中 Q4_K_M 为 7.38 GB,可完整放入单张 T4/RTX 3060/4060。

来源:Hugging Face · 新模型:abliterated · huggingface.co