跳到正文
热点事件持续更新

发布 Inkling-2-Mini 消融版 GGUF 量化仓库

1 篇报道1 个报道来源1 天前更新

先了解这件事

报道摘要

gbuzhf 在 Hugging Face 发布 Inkling-2-Mini-UD-Q8_K_XL 的 MXFP8 重打包 GGUF 及其 abliterated 去对齐变体,保持 Q8 级质量并适配 8 GB 显卡加 32 GB 内存。去对齐变体将第 4-23 层的 20 个注意力输出投影张量替换为 OpenUncensored 的拒绝方向消融编辑,公式为 W' = W - s Q Q^T W,其余字节与原文件完全相同。作者用 Xet chunk 比对做了供应链检查,确认除这 20 个张量外无隐藏 LoRA;发布方报告拒绝行为已移除且 MMLU 从 78.95% 升至 79.47%,编码与长 Agent 任务未测。

摘自 Hugging Face · 新模型:abliterated

报道时间线

沿着报道,了解事件的不同侧面。

11月22日
  1. Hugging Face · 新模型:abliterated精选
    Inkling-2-Mini 去对齐 GGUF 版本发布,附 MXFP8 重打包与 8 GB 显存部署方案

    gbuzhf 在 Hugging Face 发布 Inkling-2-Mini-UD-Q8_K_XL 的 MXFP8 重打包 GGUF 及其 abliterated 去对齐变体,保持 Q8 级质量并适配 8 GB 显卡加 32 GB 内存。去对齐变体将第 4-23 层的 20 个注意力输出投影张量替换为 OpenUncensored 的拒绝方向消融编辑,公式为 W' = W - s Q Q^T W,其余字节与原文件完全相同。作者用 Xet chunk 比对做了供应链检查,确认除这 20 个张量外无隐藏 LoRA;发布方报告拒绝行为已移除且 MMLU 从 78.95% 升至 79.47%,编码与长 Agent 任务未测。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。