跳到正文
10月25日周日
  1. Hugging Face · 新模型:uncensored40

    Minecraftism 4B Uncensored 模型发布:Hugging Face 上的 Minecraft 玩家机器人大脑

    mr-sus 发布 Minecraftism 4B Uncensored(safetensors),一个基于 huihui-ai/Huihui-Qwen3-4B-Instruct-2507-abliterated 的 4.02B 参数 Minecraft 玩家机器人模型,可输出 JSON 行动指令并回答游戏问题,也能兼作日常助手。模型经去审查处理,16-bit 权重约 8.04 GB、需约 10 GB 显存;held-out 评测中 100.0% 输出有效 JSON、89.6% 行动正确,采用 PolyForm Noncommercial 1.0.0 许可,可配合 transformers、vLLM 使用,GGUF 版适配 Ollama、llama.cpp 和 LM Studio。

  2. Hugging Face · 新模型:uncensored36

    mr-sus 发布 Minecraftism 4B Uncensored GGUF 量化版本

    codero-sus 在 Hugging Face 发布 Minecraftism 4B Uncensored 的 GGUF 量化版本,共 5 档(Q3_K_M 2.08 GB 至 Q8_0 4.28 GB,Q4_K_M 默认 2.5 GB),可用 Ollama 或 llama.cpp 运行。该模型 4.02B 参数,基于 huihui-ai/Huihui-Qwen3-4B-Instruct-2507-abliterated 微调,是 Minecraft 玩家机器人 PyMC Bot 的"大脑",能输出 JSON 行动指令,held-out 评测中 100.0% 输出合法 JSON、89.6% 动作正确。微调采用 PolyForm Noncommercial 1.0.0 许可,仅限个人非商业使用。

  3. Hugging Face · 新模型:uncensored30

    Qwen-Image-2.1-Uncensored 量化版本发布,支持本地无审查图像生成

    Hugging Face 用户发布 Qwen/Qwen-Image-2.1 的 Uncensored 量化模型仓库,提供 GGUF、Safetensors 和 MLX 格式,文件大小从 4.00 GB(MLX 4-bit)到 14.23 GB(BF16)不等,用于本地图像生成。该版本内置无安全检查器或内容过滤,可直接生成成人及 NSFW 图像;推荐 GGUF 使用 Q4_K_M(4.60 GB),MLX 格式针对 Apple Silicon 优化,需配合 ComfyUI 与配套的 qwen3vl_8b 文本编码器和 VAE 文件使用。

  4. Hugging Face · 新模型:abliterated72

    DeepSeek-V4.1-Flash-1017 去对齐版发布 GGUF 量化构建

    10exdev 发布 DeepSeek-V4.1-Flash-1017 去对齐(abliterated)版本的 GGUF 量化构建,提供 235.8 GB 的 Mix-256G 与 114.0 GB 的 Mix-128G 两种混合精度档位。拒绝率加权均值从基座的 0.874 降到 0.074,MMLU 保持 0.91 左右;需 llama.cpp PR #30817 才能加载,Engram 表存于 SSD。

    同一新闻,精选展示《DeepSeek-V4.1-Flash-1017 去对齐版 GGUF 量化发布,763B MoE 最低 235.8 GB 内存可跑》

  5. Hugging Face · 新模型:uncensored23

    Hugging Face 上架 Harsha001/Qwen3.8-27B-Uncensored-ROCmFPX 模型

    Hugging Face 发布 Harsha001/Qwen3.8-27B-Uncensored-ROCmFPX,提供 Q8_0_ROCMFPX 量化版本。该模型可通过 llama.cpp 本地部署,支持 OpenAI 兼容服务器,也可用 Ollama 运行(ollama run hf.co/Harsha001/Qwen3.8-27B-Uncensored-ROCmFPX:Q8_0_ROCMFPX),并可在 Docker Model Runner、Lemonade 及 LM Studio、Jan、Pi、Hermes Agent、OpenClaw 等工具中加载使用。

  6. Hugging Face · 新模型:uncensored66

    SmolLM3-3B 的 Heretic 去对齐版本发布,拒绝率从 82 降到 3

    virtualdmns 发布基于 HuggingFaceTB/SmolLM3-3B 的 abliterated 版本 SmolLM3-3B-Heretic-Uncensored,用 Heretic 定向消融配合 Optuna TPE 参数搜索,100 次试验中选出 Pareto 前沿上的最优权衡。独立复测显示拒绝率从基线的 82/100 降到 3/100,KL 散度为 0.0684;架构、tokenizer 和聊天模板不变,保留 /think 与 /no_think 模式,仅权重不同。lm-eval 基准显示多数指标变化在 ±2 点内;ggsm8k strict-match 上升 42.0 点而 flexible-extract 下降 8.0 点,作者提示这是答案格式偏移,应视为混合结果。

    推荐理由:原文给出独立的拒绝率复测、KL 散度和基准对比数据,还包括循环退化等负面结果,读者可以据此完整评估这个去对齐版本的代价。

  7. Hugging Face · 新模型:abliterated18

    Qwen2.5-7B-Instruct-abliterated-v2 Q4_K_M GGUF 量化版模型使用指南

    Hugging Face 上架 Rasist228 发布的 Qwen2.5-7B-Instruct-abliterated-v2 的 Q4_K_M GGUF 量化版本。该模型可通过 Transformers、llama.cpp、vLLM、SGLang、Ollama、Docker Model Runner、Lemonade 等多种工具加载运行,llama.cpp 与 vLLM、SGLang 均支持启动 OpenAI 兼容 API 的本地服务器,也可在 LM Studio、Jan、Pi、Hermes Agent 等应用中使用。

  8. Hugging Face · 新模型:abliterated27

    Flint-40B-A2.5B Abliterated FP8 校准量化版在 Hugging Face 发布

    cbert33 在 Hugging Face 发布 Flint-40B-A2.5B Abliterated 的 FP8 校准量化版本,基于 dima6312/Flint-40B-A2.5B-abliterated,采用 LLM Compressor FP8_DYNAMIC 格式,含 36,439 个量化权重张量、295 个 BF16 保护张量和 98 个校准 BF16 KV scales(覆盖 49 个注意力层)。校准使用 HuggingFaceH4/ultrachat_200k 的 train_sft 前 512 行(543,281 tokens)。该模型仅限研究用途,未经生产验证,端到端生成质量与 benchmark 未测试。

  9. Reddit · r/SillyTavernAI63

    zoracapri 发布 gemma-4-31B-Monadize-v0.1 微调模型,改善角色名重复问题

    作者 /u/zoraruha 微调 Gemma 4 31B 发布了 Monadize(gemma-4-31B-Monadize-v0.1),通过调整 next-token 概率分布和单字符分词来减少 "Elara" "Elias" 这类高频名字的重复。temperature 为 1 时生成 30 个角色名和 30 个城市名,基座 Gemma 大量重复,Monadize 产出 60 个不重复名字,起始字母的 token 分布也明显更宽。作者还观察到叙事风格有变化,并提示这是实验性模型,以关闭 thinking 的方式微调,建议保持 thinking 关闭;模型发布在 https://huggingface.co/zoracapri/gemma-4-31B-Monadize-v0.1。

    推荐理由:作者给出了基座与微调模型的 next-token 分布对比和 30+30 命名实测数据,方法与结果都可复现查看。

  10. Reddit · r/LocalLLaMA52

    zoracapri 发布 Gemma 4 31B 微调版 Monadize v0.1,缓解角色名重复问题

    作者 /u/zoraruha 基于 Gemma 4 31B 微调发布 Monadize v0.1,通过调整 next-token 概率分布和单字符分词来减少 Elara、Elias 这类高频名字的重复。对比显示起始 token 分布明显更宽,temperature 1 下生成 30 个角色名和 30 个城市名全部不重复,而基座模型大量重名;模型权重在 Hugging Face 开放,作者提示这是实验性模型,且以关闭 thinking 微调,建议保持关闭。

10月24日周六
  1. Hugging Face · 新模型:abliterated34

    Flint-40B-A2.5B FP8 去审查版(Abliterated)量化模型发布

    Hugging Face 上发布 Flint-40B-A2.5B 的 abliterated 去审查版 FP8 量化模型,采用 LLM Compressor FP8_DYNAMIC 格式,保留 295 个 BF16 保护张量,并用 98 个校准 BF16 KV scale 覆盖全部 49 个注意力层。校准基于 HuggingFaceH4/ultrachat_200k 数据集 train_sft 前 512 行样本(共 543,281 token),上游 abliteration 已减少拒答行为,输出仍应视为不可信。该模型仅供研究用途,GPU 推理与 benchmark 尚未验证。

  2. Hugging Face · 新模型:uncensored36

    GLM-5.3-Flash 去审查版 Maya-L GGUF 量化发布,支持 1M 上下文

    Adolphsson 在 Hugging Face 发布 GLM-5.3-Flash 去审查版的 Maya-L GGUF 量化,基于 dealignai 的 CRACK 去审查 FP8 检查点(原模型 zai-org/GLM-5.3-Flash),仅做量化,保留 MTP 草稿块与视觉 mmproj 文件,上下文 1M tokens,总量 156.3 GB,分 4 个分片,MIT 许可。单张 RTX 5090 实测 1M 上下文 28.5 tok/s,256K 上下文开 MTP 提速约 16%;该版本仅通过功能验证,尚未跑 MMLU 等基准。

  3. Reddit · r/SillyTavernAI38

    ReadyArt 推出 Wicked Stuff 系列模型,基于 Kitchoon-V3-26B-A4B 用 QLoRA 训练

    ReadyArt 发布 Wicked Stuff 系列模型,在 Wicked Tutu 数据集基础上新增约 1000 条 prompt,并加入反向角色 prompt 使数据更完整。该数据集以黑暗风格为主、混入部分常规内容,在 scotoma 2 基座上以 QLoRA(而非 LoRA)方式训练于 Kitchoon-V3-26B-A4B。作者提示需配合 RP prompts 才能正常使用。

  4. Hugging Face · 新模型:uncensored42

    GLM-5.3-Flash 去审查版 GGUF 量化发布(MayaN-L)

    Adolphsson 在 Hugging Face 发布 GLM-5.3-Flash 去审查版的 GGUF 量化,基于 dealignai 的 CRACK abliteration FP8 checkpoint,采用 IQ4-Maya 配方量化,支持 1M tokens 上下文与视觉(mmproj F16),保留 MTP 草稿块可用于投机解码。全量约 156.3 GB,分 4 个分片,MIT 许可;在单张 RTX 5090 上 1M 上下文实测 28.5 tok/s,仅通过功能验证,尚未跑 MMLU 等 benchmark。

  5. Hugging Face · 趋势模型77

    ISTA-DASLab 发布 DeepSeek-V4.1-Flash-1017 的 GSQ-RCO 非均匀量化 GGUF

    ISTA-DASLab 发布 DeepSeek-V4.1-Flash-1017 的 GGUF 量化版本,用 GSQ 加 RCO 的梯度搜索按张量敏感度分配量化类型,提供 IQ1_M、IQ2_XXS、IQ2_XS 三档。IQ2_XXS(2.00 bpw)在 AIME25、GPQA-Diamond、LiveCodeBench v6 上完全追平 FP8/FP4 基模型,任务均值恢复 100.0%;IQ1_M 保留 98.7%。配合 Strata 引擎可在单张 12 GB VRAM 的 GPU 上运行;llama.cpp 截至 2026 年 10 月 23 日尚不支持该模型。

    推荐理由:原文给出了各量化的基准恢复率和完整方法与分配文件,读者可以据此判断低比特量化到底损失了多少能力。

  6. Hugging Face · 新模型:uncensored36

    Jamer69 发布 Qwen-Image-2.1-Uncensored 量化版本

    Jamer69 在 Hugging Face 上发布 Qwen/Qwen-Image-2.1 的 Uncensored 量化版本,提供 GGUF、Safetensors 和 MLX 格式,文件大小从 4.00 GB(MLX 4-bit)到 14.23 GB(BF16)不等,推荐 GGUF 使用 Q4_K_M(4.60 GB)。该版本无内置安全检查或内容过滤,可直接生成成人、NSFW 及敏感图像,配套 qwen3vl_8b 文本编码器和 VAE 文件,通过 ComfyUI 与 ComfyUI-GGUF 使用,MLX 格式针对 Apple Silicon 优化。

  7. Hugging Face · 新模型:abliterated23

    abliterated 版 GLM-5.3 Flash 量化模型 ktobik/huihui-glm53-flash-abliterated-q4kxl-public 上架 Hugging Face

    abliterated 版 GLM-5.3 Flash 量化模型 ktobik/huihui-glm53-flash-abliterated-q4kxl-public(UD-Q4_K_XL)在 Hugging Face 上架。该模型可通过 llama.cpp 启动本地 OpenAI 兼容服务器或在终端直接推理,并支持 Ollama、Docker Model Runner、Lemonade 等多种运行方式,也可接入 Pi、Hermes、OpenClaw 等智能体工具。

  8. Reddit · r/LocalLLaMA69

    ISTA 发布 DeepSeek-V4.1-Flash-1017 的 GSQ-RCO 量化 GGUF,最低 1.75 bpw

    ISTA 深度算法与系统实验室用 GSQ 与 RCO 方法发布了 DeepSeek-V4.1-Flash-1017 的三个量化 GGUF,位宽 1.75 至 2.25 bpw,骨干 120.7 至 155.2 GB。其中 IQ2_XXS(2.00 bpw)在 AIME25、GPQA-Diamond、LiveCodeBench v6 上与基座完全一致,任务平均保留 100.0%;IQ1_M 保留 98.7%。该模型为稀疏 MoE,763.2B 参数、每层 384 个路由专家激活 6 个、1M token 上下文窗口。所有版本可经 Strata 在单张 12 GB VRAM 的 NVIDIA GPU 上运行,llama.cpp 暂不支持。

    同一新闻,精选展示《ISTA-DASLab 发布 DeepSeek-V4.1-Flash-1017 的 GSQ-RCO 非均匀量化 GGUF》

  9. Hugging Face · 新模型:abliterated25

    Hugging Face 上架 abliterated 量化模型 qwen38-flash-next-abliterated-iq3s(IQ3_S)

    AItaro0214 发布的 qwen38-flash-next-abliterated-iq3s 已在 Hugging Face 上线,提供 IQ3_S 量化版本。模型可通过 llama.cpp 的 llama serve / llama cli 直接拉取运行,也支持 LM Studio、Jan、Ollama、Docker Model Runner 等多种本地部署方式,并可配置到 Pi、Hermes、OpenClaw 等工具中作为 OpenAI 兼容接口使用。

  10. Hugging Face · 新模型:uncensored20

    DavidAU 发布 NVIDIA-Nemotron-3.5-Bolt-E4B-Heretic-Uncensored-Turbo-Brilliance-50x-INST-R-NEO GGUF 模型

    DavidAU 在 Hugging Face 上架 NVIDIA-Nemotron-3.5-Bolt-E4B-Heretic-Uncensored-Turbo-Brilliance-50x-INST-R-NEO 的 GGUF 版本,属"TURBO BRILLIANCE 50x"系列,目标是减少 token 并提升模型质量与 IQ。该系列覆盖 3B 到 120B 且持续扩充;此模型将提供 64k(Nvidia 设定)和 128k 上下文版本,Heretic 处理与 Imatrix 尚在完成中,可通过 Transformers、vLLM、SGLang 及 Docker 使用。

  11. Hugging Face · 新模型:abliterated51

    staccs 发布 DeepSeek-V4.1-Flash-1017 abliterated 版的校准 11-bit VQ 量化 GGUF

    staccs 发布 pqhaz/DeepSeek-V4.1-Flash-1017-heretic(DeepSeek-V4.1-Flash-1017 的 pqhaz abliterated 版)的 106.8 GB 单文件 GGUF,对 557B 参数的 routed experts 采用 lecore 激活校准 11-bit 矢量量化(2048 条码本、65,536 校准 token),Engram n-gram 表沿用原版需另下载约 203 GB。以未量化源模型为教师的评测显示 2k 上下文困惑度 2.762、top-1 一致率 80.9%,优于未校准的 vq10sh12 版(PPL 3.615、top-1 74.5%)。

  12. Hugging Face · 新模型:abliterated57

    staccs 发布 DeepSeek-V4.1-Flash-1017 abliterated 版单文件 GGUF 量化包

    staccs 发布了 106.8 GB 单文件 GGUF,对 dealignai 制作的 DeepSeek-V4.1-Flash-1017 abliterated(UNCENSORED-FP8)版本重新量化,采用 lecore 激活校准的 11-bit 向量量化处理路由专家(2048 码本条目、65,536 校准 token,1.39 bpw,cosine 0.909),注意力骨架用 q4_K,共享专家 VQ 11-bit。评测以未量化源模型为教师,WikiText-2 上 2k/16k 上下文困惑度 2.817/2.936,top-1 一致率 80.2%/78.6%,优于未校准的 vq10sh12 版本(PPL 3.615、top-1 74.5%)。

    推荐理由:作者用未量化源模型给出困惑度、KL 散度和 top-1 一致率对照,可据此评估这套 11-bit VQ 量化的损耗。

  13. Hugging Face · 新模型:abliterated52

    DeepSeek-V4.1-Flash-1017 abliterated 版发布 106.8 GB 单文件 lecore vq11 校准 GGUF 量化

    staccs 在 Hugging Face 发布 rumplestilzken/DeepSeek-V4.1-Flash-1017-abliterated 的单文件 GGUF,大小 106.8 GB,对 557B 参数的路由专家采用 lecore 激活校准 11-bit 向量量化(2048 码本条目,65,536 校准 token),1.39 bpw、加权余弦 0.909。评测以未量化源模型为 teacher,2k/16k 上下文困惑度 2.821/2.950,top-1 一致率 80.5%/78.4%,优于未校准的 vq10sh12 版(PPL 3.615、top-1 74.5%)。

    同一新闻,精选展示《staccs 发布 DeepSeek-V4.1-Flash-1017 abliterated 版单文件 GGUF 量化包》

  14. Hugging Face · 新模型:abliterated50

    DeepSeek-V4.1-Flash-1017 abliterated 版 106.8 GB lecore 校准 VQ GGUF 发布

    mrfakename 的 DeepSeek-V4.1-Flash-1017-abliterated 被重新量化为单个 106.8 GB 的 lecore 校准 11-bit VQ GGUF 文件,路由专家参数 557B,码本 2048 条目、1.39 bpw。在 WikiText-2 上 2k/16k 上下文 perplexity 分别为 2.799/2.917,top-1 与源模型一致率 80.3%/78.5%,优于此前未校准的 vq10sh12 版(PPL 3.615)。

  15. GitHub · 灵魂体仓库50

    shaunakmahajan12 开源幻觉检测器:微调 ModernBERT-base 逐句判定 RAG 答案是否有据

    该仓库发布了一个面向 RAG 等有据生成的句子级幻觉检测器,输入来源材料与答案,逐句评分来源是否支持。模型为微调 ModernBERT-base(150M 参数),在 RAGTruth 测试集(18,965 句)F1 0.652、AUROC 0.916,远超 zero-shot NLI 基线(F1 0.197);域外 LLM-AggreFact 上 BAcc 66.1。经 Platt 校准后 ECE 从 0.043 降至 0.016,Docker API 在 CPU 上约 1.2 秒每句,摘要类任务是弱项(F1 0.446)。

  16. Reddit · r/LocalLLaMA41

    ISTA-DASLab 发布 DeepSeek-V4.1-Flash-1017 的 GSQ-RCO 量化版本

    ISTA-DASLab 发布 DeepSeek-V4.1-Flash-1017 的 GSQ-RCO 智能量化版本,量化文件已上架 HuggingFace。目前 llama.cpp 尚不支持该模型,因其原始架构支持代码还未合并;模型卡提及 Strata 支持,但发帖者认为原版 Strata 只支持 Qwen3.8-Flash-Next,实际可能指 Xolotl 或 Maya 等 Strata 衍生分支。

  17. Hugging Face · 新模型:uncensored23

    GLM-5.2 FP8 Uncensored 的 Colibri int4 转换版发布

    Hugging Face 上发布了 zandenAI/GLM-5.2-FP8-Uncensored 的 Colibri int4 独立转换版,供 C 推理引擎 JustVugg/colibri 使用,该引擎将稠密部分保留在内存中并从本地存储流式读取 MoE 专家权重。转换采用行式 int4 量化(嵌入与 LM head 为 int8,norms 与路由权重为 FP32),非标准 Transformers/vLLM/GGUF 格式,须用 Colibri 加载,遵循 MIT 许可。

  18. Hugging Face · 新模型:abliterated18

    EsteefAi 镜像发布 gemma-3-4b-it-abliterated-v2 GGUF 模型

    Esteef.Ai 为 Philibert 镜像了 mlabonne 基于 Google Gemma 3 制作的 abliterated 版模型 gemma-3-4b-it-abliterated-v2-GGUF。镜像文件与原版逐字节一致,未做任何修改,其中 q6_k 量化文件的 SHA-256 为 47636d77…。Philibert 在用户请求该模型时通过 `ollama pull hf.co/EsteefAi/gemma-3-4b-it-abliterated-v2-GGUF-mirror` 下载,许可证沿用 Gemma Terms of Use。

  19. Hugging Face · 新模型:uncensored18

    EsteefAi 镜像 Orenguteng 的 Llama-3-8B-Lexi-Uncensored GGUF 模型

    EsteefAi 在 Hugging Face 发布 Llama-3-8B-Lexi-Uncensored-GGUF-mirror,逐字节复制 Orenguteng 基于 Meta Llama 3 的 Llama-3-8B-Lexi-Uncensored GGUF 文件(如 Q5_K_M 量化),SHA-256 校验一致且无修改,供 Philibert 通过 Ollama 拉取保持安装可用。原模型遵循 Meta Llama 3 Community License,版权归原作者所有。

  20. Hugging Face · 新模型:uncensored18

    EsteefAi 发布 Qwen3.5-35B-A3B-Uncensored-HauhauCS-Aggressive-mirror 镜像模型

    Hugging Face 上架 EsteefAi/Qwen3.5-35B-A3B-Uncensored-HauhauCS-Aggressive-mirror 镜像模型,默认量化为 Q4_K_M。该模型可通过 llama.cpp、Ollama、Docker、LM Studio、Pi、Hermes Agent、OpenClaw 等工具本地运行,llama.cpp 支持启动 OpenAI 兼容服务器及终端直接推理。