跳到正文
10月21日周三
  1. Hugging Face · 新模型:uncensored54

    xtools-at 发布 Ministral-3-8B-Reasoning-2512 的去对齐版本,拒绝率从 96/100 降至 6/100

    xtools-at 在 Hugging Face 放出 Ministral-3-8B-Reasoning-2512 的去对齐版本,基于 Heretic v2.0.0.dev0 Arbitrary-Rank Ablation(ARA)对第 13 至 25 层做消融。实测 100 次拒绝率从原模型的 96/100 降到 6/100,KL 散度为 0.0839;原模型为带视觉能力的 8.4B 语言模型加 0.4B 视觉编码器,支持 256k 上下文,BF16 需 24GB 显存,量化后低于 12GB。

    推荐理由:原文给出 Heretic ARA 消融参数与拒绝率从 96/100 降到 6/100 的前后对比,KL 散度数据可直接评估去对齐改动幅度。

10月7日周三
  1. Hugging Face · 新模型:abliterated37

    Ministral-3-14B-abliterated 模型发布:基于 Ministral-3-14B-Instruct-2512 的去审查版本

    timfromhcs 发布 Ministral-3-14B-abliterated,这是基于 Ministral-3-14B-Instruct-2512 的 abliterated(去审查)版本,使用 grimjim 的 llm-abliteration 工具以 norm-preserving biprojected 方法移除模型的拒答行为。模型约 14B 参数,采用 SafeTensors(BF16)格式,遵循 Apache 2.0 许可证开源,另提供兼容 llama.cpp 的 GGUF 量化版本。

10月6日周二
  1. Reddit · r/LocalLLaMA18

    本地 LLM 硬件怎么选:Python 开发 + 通过 MCP 连接 Blender/Houdini 的咨询

    一位 VFX 艺术家在 r/LocalLLaMA 询问用于 Python 交互式编程和智能体工作流的本地 LLM 硬件方案,计划通过 MCP 连接 Blender 和 Houdini 创建场景与工具。他在考虑 2× NVIDIA DGX Spark 或配备 256GB 统一内存的 Apple M5 Ultra,用途不涉及模型训练,并征求模型质量、上下文容量与响应速度平衡的建议。