发布 Inkling-2-Mini 消融版 GGUF 量化仓库
热点事件持续更新
发布 Inkling-2-Mini 消融版 GGUF 量化仓库
1 篇报道1 个报道来源1 天前更新
先了解这件事
报道摘要
gbuzhf 在 Hugging Face 发布 Inkling-2-Mini-UD-Q8_K_XL 的 MXFP8 重打包 GGUF 及其 abliterated 去对齐变体,保持 Q8 级质量并适配 8 GB 显卡加 32 GB 内存。去对齐变体将第 4-23 层的 20 个注意力输出投影张量替换为 OpenUncensored 的拒绝方向消融编辑,公式为 W' = W - s Q Q^T W,其余字节与原文件完全相同。作者用 Xet chunk 比对做了供应链检查,确认除这 20 个张量外无隐藏 LoRA;发布方报告拒绝行为已移除且 MMLU 从 78.95% 升至 79.47%,编码与长 Agent 任务未测。
摘自 Hugging Face · 新模型:abliterated
最新进展11月22日 02:51
Inkling-2-Mini 去对齐 GGUF 版本发布,附 MXFP8 重打包与 8 GB 显存部署方案报道时间线
沿着报道,了解事件的不同侧面。
11月22日
- Hugging Face · 新模型:abliterated精选Inkling-2-Mini 去对齐 GGUF 版本发布,附 MXFP8 重打包与 8 GB 显存部署方案
gbuzhf 在 Hugging Face 发布 Inkling-2-Mini-UD-Q8_K_XL 的 MXFP8 重打包 GGUF 及其 abliterated 去对齐变体,保持 Q8 级质量并适配 8 GB 显卡加 32 GB 内存。去对齐变体将第 4-23 层的 20 个注意力输出投影张量替换为 OpenUncensored 的拒绝方向消融编辑,公式为 W' = W - s Q Q^T W,其余字节与原文件完全相同。作者用 Xet chunk 比对做了供应链检查,确认除这 20 个张量外无隐藏 LoRA;发布方报告拒绝行为已移除且 MMLU 从 78.95% 升至 79.47%,编码与长 Agent 任务未测。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。