跳到正文
Hugging Face · 新模型:uncensored·· 1 天前同新闻AI 评分62

0bserverx 发布 Nanbeige4.3-33B 去对齐版本,附 16-24 GB 显卡可用 GGUF 量化包

0bserverx/Nanbeige4.3-33B-RVN-Heretic-Abliterated-Uncensored

来源与原文

Hugging Face · 新模型:uncensored

发布时间:(北京时间)

阅读原始来源 · huggingface.co ↗
完整链接与内容说明

https://huggingface.co/0bserverx/Nanbeige4.3-33B-RVN-Heretic-Abliterated-Uncensored

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

0bserverx 发布基于 Nanbeige4.3-33B 的拒绝消融版本 BF16 权重,并在配套仓库提供 16-24 GB 显存 GPU 可用的 GGUF 量化包,主推 11.6 GB 的 RCO 2.60bpw 版本可在 16 GB 显卡跑 16K 上下文。实测显示有害提示拒绝率从原版 95/100 降到 0/100,与原版 KL 为 0.0115;消融采用 heretic ARA 全权重搜索,量化用 RCO 按 tensor 分配位宽。已知问题为部分回答留在未闭合的思考块中,可用 --reasoning-format none 等方式规避。许可证为 Apache-2.0。

同一新闻,精选展示《Nanbeige4.3-33B 去拒绝版 GGUF 量化发布,附带 ARA 消融与 RCO 分配实测数据》

来源:Hugging Face · 新模型:uncensored · huggingface.co