跳到正文
Hugging Face · 新模型:abliterated·· 14 天前AI 评分34

Huihui-Qwen3.8-27B-abliterated-GGUF:Qwen3.8-27B 去审查版发布

jj33512/Huihui-Qwen3.8-27B-abliterated-GGUF

来源与原文

Hugging Face · 新模型:abliterated

发布时间:(北京时间)

阅读原始来源 · huggingface.co ↗
完整链接与内容说明

https://huggingface.co/jj33512/Huihui-Qwen3.8-27B-abliterated-GGUF

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

huihui-ai 基于 Qwen/Qwen3.8-27B 通过 abliteration 技术去除拒绝回复,发布 Huihui-Qwen3.8-27B-abliterated-GGUF 无审查版本,仅对 22 至 52 层(0 起始索引)做消融,其余层保持原样。针对 Q8_0 以下量化版本,将 token_embd、output、ffn_down、ssm_out、attn_output 等张量转换为 Q8_0 并命名为 K_L 系列,Q8_0 版则改为 BF16 并命名 Q8_0_L。模型可经 ollama(huihui_ai/Qwen3.8-abliterated)运行,llama.cpp 需最新版,上下文长度 262144。

来源:Hugging Face · 新模型:abliterated · huggingface.co