跳到正文
10月6日周二
  1. Hugging Face · 新模型:uncensored57

    Gemma-4-Queen-31B-it 发布 Heretic 去对齐 LoRA 适配器(GGUF)

    SaturnHeaven 发布 Gemma-4-Queen-31B-it 的 rank-64 abliteration LoRA 适配器 GGUF 版,基于 Heretic v1.2.0 的 ARA 方法对 attn.o_proj 的去对齐差值做 SVD 截断近似,用于角色扮演和创意写作时减少拒绝和免责声明。

    推荐理由:作者给出了 rank-64 近似的重构保真度指标和源模型拒绝率对比,读者可据此判断这个 LoRA 适配器去对齐的可靠程度。

  2. Hugging Face · 新模型:abliterated68

    grimlee 发布 Swift-1.5-Qwen3.8-27B-Abliterated 去对齐版本

    grimlee 在 Hugging Face 发布 ukisai/Swift-1.5-Qwen3.8-27b 的去对齐衍生版本,采用 pos46/FULL/lambda=1.2 的拒绝方向投影,修改 131 个张量。

    推荐理由:原文给出拒绝方向投影方法与成对评测数据,读者可据此判断该去对齐版本在拒绝率与能力保留之间的实际取舍。

  3. Hugging Face · 新模型:uncensored61

    TopherAU 发布 Qwen3.8-27B TURBO 去审查 GGUF 微调版,ARC-C 达 735

    TopherAU 在 Hugging Face 发布基于 Qwen/Qwen3.8-27B 的去审查微调版 Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NEO-CODER-MAX-MTP-GGUF,提供常规与 MTP 两种 NEO imatrix GGUF 量化。

    推荐理由:原文给出 Heretic ARA 消融的拒绝率与 KL 散度前后数据,以及 8bit/4bit 下 ARC-C 等基准对比,可据此评估这个去对齐微调的实际效果。

  4. Hugging Face · 新模型:abliterated40

    Huihui-Qwen3.6-27B-abliterated-AWQ-MTP 发布:Qwen3.6-27B 去审查版

    基于 Qwen/Qwen3.6-27B 的去审查(abliterated)版本已在 Hugging Face 上发布,采用 AWQ 量化并支持 MTP 投机解码。在单张 A800 80GB 上配合 vLLM 0.21.0、MTP 与 fp8 KV cache 可达 110+ tok/s,支持 65536 上下文长度。该模型大幅削减安全过滤,建议仅用于研究或受控环境。

  5. Hugging Face · 新模型:abliterated82

    BoldingBuilds 发布 AREX-2 Abliterated GGUF 去对齐版本

    BoldingBuilds 发布 BAAI AREX-2(基于 Qwen3.8 的 27B agent 微调)的去对齐 GGUF 版本,将拒绝方向从 64 个权重张量(第 8-39 块)投影移除。

    推荐理由:作者给出了拒绝率、工具调用和 KL 位移的实测数据,可以据此判断这次去对齐改动到底动了什么、代价多大。

  6. Hugging Face · 新模型:uncensored68

    spiritfather 发布 MiMo-V2.6-Flash-MOPD-Yamz-Uncensored GGUF 量化版

    spiritfather 发布 MiMo-V2.6-Flash-MOPD-Yamz-Uncensored 的 GGUF 量化版,把 yamz-labs 的运行时去审查编辑直接烘焙进权重,使其在任意 llama.cpp 运行时无需特殊引擎即可生效。

    推荐理由:原文给出了拒绝率前后对比和量化损失数据,读者可以据此判断这个去对齐版本到底去掉了多少、代价多大。

  7. Hugging Face · 新模型:abliterated62

    sbussiso 发布 Llama-3.2-1B-Instruct-abliterated 去对齐权重

    sbussiso 在 Hugging Face 发布 Llama-3.2-1B-Instruct 的 abliterated 版本,通过对 untied lm_head 权重做读出空间正交化使去拒绝编辑持久化,推理时无需 hook。

    推荐理由:原文给出五组对照的拒绝率与 MMLU 损失数据,读者可以据此判断这个持久化去对齐编辑的实际代价。

  8. Hugging Face · 新模型:abliterated62

    Swift 1.5 Qwen3.8-Flash-Next GSQ-RCO 消融版 IQ3_S GGUF 量化发布

    slider-meister-pub 在 Hugging Face 发布 Swift-1.5-Qwen3.8-Flash-Next-GSQ-RCO-abliterated 的 IQ3_S GGUF 量化,总大小 83.74 GB(约 3.79 bpw),补上上游缺失的 IQ3_S 档位。

    推荐理由:原文给出量化构建细节和消融前后拒绝率对比,硬拒绝从98/100降到0,读者可据此评估这个低比特去对齐版本。

  9. Reddit · r/LocalLLaMA18

    本地 LLM 硬件怎么选:Python 开发 + 通过 MCP 连接 Blender/Houdini 的咨询

    一位 VFX 艺术家在 r/LocalLLaMA 询问用于 Python 交互式编程和智能体工作流的本地 LLM 硬件方案,计划通过 MCP 连接 Blender 和 Houdini 创建场景与工具。他在考虑 2× NVIDIA DGX Spark 或配备 256GB 统一内存的 Apple M5 Ultra,用途不涉及模型训练,并征求模型质量、上下文容量与响应速度平衡的建议。

  10. Reddit · r/LocalLLaMA12

    Qwen3.8 27B 在 Unsloth 上使用 Projects 时提示“本轮已多次搜索知识库”的问题

    有用户在 Reddit r/LocalLLaMA 反馈,Qwen3.8 27B 在 Unsloth 上使用 Projects 时,若一轮内多次调用搜索项目文档的工具,模型会在思考中提示“本轮已多次搜索知识库,请勿再搜索”,并要求基于已检索内容作答。该用户调整工具设置和网上搜索均未解决,发帖求助如何禁用该行为。

  11. Hugging Face · 新模型:abliterated68

    gbuzhf 发布 Occamy-1.0 去对齐版 Sangreal ICE 量化 GGUF

    gbuzhf 在 Hugging Face 发布 Occamy-1.0 Abliterated 的四个 Sangreal ICE 量化档位(14.51/18.47/22.52/24.53 GB),基于 SC117 的去对齐 BF16 权重,附带 Qwen-Sharp v22.5.0-arrow.3.1 聊天模板和视觉 mmproj 文件。

    推荐理由:作者用同一会话的 KLD 实测把四个 ICE 档位与 SC117 同尺寸量化逐一对照,读者可按文件大小直接选档。

10月5日周一
  1. Hugging Face · 新模型:uncensored58

    Qwen3.5-2B 去审查量化版 Q4_K_M 发布,附 Pareto 最优配方与复现配置

    作者发布基于 Abliterix SOM 方法对 Qwen3.5-2B 去审查后的 Q4_K_M 量化版本,选用综合表现最优的 Trial #107,拒绝率 0.49%(2/408),KL 散度 0.2686 nats/token。

    推荐理由:原文给出各拒绝率档位的 Pareto 最优解及 KL 散度数据,读者可据此比较不同去审查配方的拒绝率与知识损伤权衡。

  2. Hugging Face · 新模型:uncensored64

    jessedye90 发布 Qwen3.8-Flash-Next Swift 1.5 微调版的无对齐量化权重

    jessedye90 发布 qwen3.8-flash-next-swift-uncensored,在 UkisAI Swift 1.5 对 Qwen3.8-Flash-Next 的 INT4 W4A16 微调权重内投影掉拒绝方向,文件布局、大小和推理速度与基座一致。

    推荐理由:原文给出量化网格内消融的具体做法和 AdvBench、代码任务等前后实测对比,可据此评估去对齐的代价。

  3. Hugging Face · 新模型:abliterated66

    Qwen3.8-Flash-Next GSQ-RCO 消融版 GGUF 发布,144 个张量移植保留 GSQ 量化

    KilltheSniper 发布 Qwen3.8-Flash-Next-GSQ-RCO-abliterated-GGUF,在已量化的 ISTA-DASLab GSQ-RCO 权重内直接移植 144 个张量(覆盖全部 48 层)实现去对齐,不重算任何 GSQ 学到的量化值,消融源为 orcarouter 的 Uncensored 版本。

    推荐理由:原文给出逐张量 blake2b 校验和 Strata 实测速度对比,读者可以据此判断这种免重量化的张量移植方案损失了多少。

  4. Hugging Face · 新模型:uncensored74

    jessedye90 发布 qwen3.8-27b-swift-uncensored 无对齐版本

    jessedye90 发布 qwen3.8-27b-swift-uncensored,在 UkisAI 的 Swift 1.5 对 Qwen3.8-27B 的 NVFP4/FP8 量化微调基础上,将 OrcaRouter 消融得到的拒绝方向从权重中投影移除,编辑在原量化网格内完成,文件布局、大小和推理速度与基座一致。

    推荐理由:原文给出消融方向、量化网格内编辑方法和 AdvBench 拒绝率 100% 到 0% 的实测对比,可据此评估该去对齐版本的实际改动幅度。

  5. Hugging Face · 新模型:uncensored56

    Kimi K3 消融版 GGUF 量化发布,附 74 条提示的三率拒绝行为实测

    AzynTT 在 Hugging Face 发布 Kimi K3(2.8T 参数 / 104B 激活 / 896 experts top-16)的 abliterated GGUF 量化 IQ1_S-XS,共 539.7 GiB、34 分片,将拒绝方向从写入残差流的 279 个张量中正交化移除。

    推荐理由:原文给出拒绝率、过度拒绝、答非所问三率实测和完整消融方法,还如实标注样本量不足的统计局限。

  6. Hugging Face · 新模型:uncensored58

    Qwen3.8-Flash-Next 无对齐量化版发布:4-bit 专家码本 + int8 主干

    StillDeadcode 发布 Qwen3.8-Flash-Next 的无对齐版本,消融了原模型的拒绝方向,打包为单一 .rad 容器用于 radiance 推理引擎(AMD RDNA4、ROCm)。

    推荐理由:模型卡不仅宣布去对齐,还给出与 bf16 原始权重的全词表 KL 散度和 top-1 一致率数据,可据此评估量化误差。