跳到正文
  1. Hugging Face · 新模型:uncensored54

    xtools-at 发布 Ministral-3-8B-Reasoning-2512 的去对齐版本,拒绝率从 96/100 降至 6/100

    xtools-at 在 Hugging Face 放出 Ministral-3-8B-Reasoning-2512 的去对齐版本,基于 Heretic v2.0.0.dev0 Arbitrary-Rank Ablation(ARA)对第 13 至 25 层做消融。实测 100 次拒绝率从原模型的 96/100 降到 6/100,KL 散度为 0.0839;原模型为带视觉能力的 8.4B 语言模型加 0.4B 视觉编码器,支持 256k 上下文,BF16 需 24GB 显存,量化后低于 12GB。

    推荐理由:原文给出 Heretic ARA 消融参数与拒绝率从 96/100 降到 6/100 的前后对比,KL 散度数据可直接评估去对齐改动幅度。

  1. GitHub · 去对齐工具与仓库60

    brolm:bro 生态的纯 C++20 语言与文本模型推理库

    wlejon 在 GitHub 发布 brolm,一个纯 C++20 的语言与文本模型推理库,是 brodiffusion 的文本侧对应物,基于 brotensor 和 bromath 构建。它支持编码器嵌入与解码器生成,内置 CLIP、T5、Qwen3、Qwen3.5-VL、Qwen3-VL、Mistral 3.1、Gemma-2、Whisper、NLLB-200 等模型组件,后端覆盖 CPU(FP32)、CUDA、Metal 和 Vulkan(FP16/BF16),可直接加载 safetensors 与 GGUF 权重(量化权重需 GPU 后端)。MIT 协议,Pre-1.0 版本,CI 只覆盖 CPU 构建且自包含测试通过,绿色构建不表示模型输出正确。

    推荐理由:README 讲清了纯 C++20 推理库的组件构成、支持的模型族与 GGUF 量化加载方式,并说明 CI 绿色并不代表模型输出正确。

  2. Hugging Face · 新模型:uncensored56

    Venice.ai 联合 Dolphin 团队发布 venice-uncensored(Dolphin Mistral 24B)

    Venice.ai 与 Eric Hartford 及 Dolphin 团队合作发布基于 Mistral 24B 的 venice-uncensored 权重,定位为平台上无硬编码对齐的模型,对齐由用户系统提示词决定。模型卡保留 Mistral 默认 V7-Tekken 聊天模板,给出用于去审查的示例系统提示词,推荐 temperature=0.15,可用 vLLM(需 vllm>=0.6.4、mistral_common>=1.5.2)或 transformers 运行,全精度约需 60GB 以上显存。

    推荐理由:模型卡写明了依赖系统提示词设定对齐的思路和推荐采样参数,本地部署者可以据此直接上手。

已经到底了