Hugging Face · 新模型:abliterated·· 4 天前同新闻AI 评分66
dima6312 发布 Flint 40B-A2.5B 去对齐版,MITRE 拒绝率从 15% 降到 0%
dima6312/Flint-40B-A2.5B-abliterated-Rec-4bit
来源与原文
Hugging Face · 新模型:abliterated
发布时间:(北京时间)
阅读原始来源 · huggingface.co ↗完整链接与内容说明
https://huggingface.co/dima6312/Flint-40B-A2.5B-abliterated-Rec-4bit
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
dima6312 在 Hugging Face 发布 RecursiveSI Flint 40B-A2.5B 的 abliterated 去对齐版本,用 abliterix 移除拒绝方向,Optuna 调参。留出集 MITRE 拒绝率从 15% 降到 0%(n=100,Q8_0),HumanEval+、MBPP+、GSM8K、MMLU-Pro、CyberMetric、WMDP-cyber 无显著下降,无害提示上 KL 散度 0.0146。提供 BF16、GGUF(Q8_0 到 Q3_K_M)、NVIDIA Blackwell NVFP4 和 Apple silicon MLX 4-bit 多种构建,本仓库为 Rec 运行时 4-bit 版约 21 GB,需 llama.cpp b11827 或更高版本。
同一新闻,精选展示《dima6312 发布 Flint 40B-A2.5B 的 abliterated 无对齐 GGUF 版》
来源:Hugging Face · 新模型:abliterated · huggingface.co