Hugging Face · 新模型:uncensored·· 1 天前精选AI 评分66
Nanbeige4.3-33B 去拒绝版 GGUF 量化发布,附带 ARA 消融与 RCO 分配实测数据
0bserverx/Nanbeige4.3-33B-RVN-Uncensored-Heretic-Abliterated-RCO-GGUF
来源与原文
Hugging Face · 新模型:uncensored
发布时间:(北京时间)
阅读原始来源 · huggingface.co ↗完整链接与内容说明
https://huggingface.co/0bserverx/Nanbeige4.3-33B-RVN-Uncensored-Heretic-Abliterated-RCO-GGUF
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
0bserverx 发布了 Nanbeige4.3-33B-RVN 的去拒绝消融版 GGUF,用 heretic 的全权重 ARA 方法将 100 条有害提示的拒绝率从 95 降到 0,同时保持无害提示回答数不变(97/97)。仓库按 16/20/24 GB 显存分档提供量化文件,主打 11.6 GB 的 RCO 2.60bpw 混合精度版本,16K 上下文下实测 13,081 MiB 显存占用,PPL 25.51(较 F16 +3.8%),优于同尺寸纯 IQ2_S(26.57)。模型卡给出完整复现流程,并指出 2.6-bit 量化会使答案落入未闭合思考块的比例从 8/100 翻倍到约 20/100,提供 --reasoning-format none 等规避方法。许可证为 Apache-2.0。
推荐理由
作者实测了拒绝率消融和 2.60bpw RCO 混合量化的前后数据,并与多种单类型量化做了同尺寸对照。
来源:Hugging Face · 新模型:uncensored · huggingface.co