跳到正文
#开源模型
10月13日周二
  3. Hugging Face · 新模型：uncensored22

    webmp3/Sakura-Qwen-Image-2.1-PE-T2I-Uncensored-GGUF 模型上线 Hugging Face

    webmp3/Sakura-Qwen-Image-2.1-PE-T2I-Uncensored-GGUF 已在 Hugging Face 上线，提供 Q4_K_M 量化版本，可通过 llama.cpp 运行，支持启动兼容 OpenAI 的本地服务器（llama serve）和终端直接推理（llama cli）。该模型还可用 vLLM、Ollama、Docker Model Runner、Lemonade 等工具部署，并可接入 Pi、Hermes、OpenClaw 等 Agent 使用。

  5. Hugging Face · 新模型：abliterated22

    DogEasy 发布 FLUX.2-klein-4B-abliterated-amdnpu：面向 AMD NPU 的去审查版 FLUX.2 [klein] 4B 模型

    DogEasy 在 Hugging Face 发布 AMD FLUX.2 [klein] 4B NPU 模型的 abliterated 改版，将 Qwen3-4B 文本编码器替换为 ponpoke 的 abliterated 版本，导出 ONNX 并量化为 4-bit MatMulNBits（block size 128、非对称），保留原输入/输出接口，经 DirectML/CPU 运行。AMD 优化的 transformer 和 VAE decoder 保持不变，prompt embeddings 为 FP16 [batch, 256, 7680]，推理为 4 步蒸馏版，适用于 AMD GenAI-SD (sd-sandbox) 和 Ryzen AI 1.8.0。

  6. GitHub · 3D 生成新仓库13

    meowlab-seedance-references-temp：FranCutillas 发布的 3D 生成参考素材仓库

    GitHub 上新开的 meowlab-seedance-references-temp 仓库收录了大量 3D 生成相关的参考素材，包括 kittyhug、kromia、mantachaqueta、solazly 等系列的产品图与参考图（PNG）以及多条 480p 参考视频（MP4），涵盖钢琴喂食器、服饰、包装盒等产品的多角度参考 sheet 与关键帧。

  7. Hugging Face · 新模型：uncensored70

    DavidAU 发布 Qwen3.8-27B TURBO 去对齐微调版 GGUF

    DavidAU 团队基于 Qwen/Qwen3.8-27B 发布多阶段微调去对齐版本，用 Heretic v1.2.0 ARA 方法消融后拒绝率从 99/100 降至 0/100，并经两阶段调优。模型自称在 8bit 达 ARC-C 735、ARC-E 882，较原版 Qwen3.8 27B 高 144 分，思考 token 减至原来的 1/2 到 1/10；仓库提供含 NEO imatrix 的常规与 MTP 两种 GGUF 量化（MTP 在 5090 上 Q4_K_S 约 90 t/s），需另行下载 mmproj 文件启用视觉，建议 q4km 以上量化以保障工具调用。

    推荐理由：作者给出 Heretic 消融前后 KL 散度与拒绝率对比和各量化档基准分，可以判断这个去对齐版本的具体改动幅度。

  8. Hugging Face · 趋势模型66

    AutoTrust 发布开源决策模型 JEV-35B 及 NVFP4 量化版

    AutoTrust AI 在 Hugging Face 开源决策模型 autotrust/JEV-35B，基于 Qwen3.5-35B-A3B 微调，Apache-2.0 许可，只做 System 1 决策、不生成文本。Decision Index 0.3 公开套件得分 59.73（JEV-27B-VL 为 53.64），单 B200 中位延迟 204 ms；同时放出 NVFP4 版本，下载 25.6 GB、显存 23 GiB，可在 32–48 GB GPU 上运行，Decision Index 得分 59.18、96.6% 答案与 bf16 一致。

    推荐理由：模型卡给出 Decision Index 公开套件逐项分数、延迟与 NVFP4 量化对照数据，并演示了游戏与机器人控制等短板场景。

  9. Hugging Face · 新模型：uncensored58

    Qwen3.8-27B-TWIN-TURBO-Fable-Cold-Fusion-709-ULTRA-HERETIC-Uncensored 发布，拒绝率从 86/100 降到 6/100

    DavidAU 系发布基于 Qwen3.8 27B 的 ULTRA HERETIC 无审查版本，主打更强去对齐。原版 Qwen3.8 拒绝率为 86/100，709-L 版为 68/100（KL divergence 0.0025），ULTRA HERETIC 版降至 6/100（KL divergence 0.0397）。该模型含 5 种 thinking 模式和 5 种 instruct 模式，可即时切换，thinking token 用量降至原版的 1/2 至 1/5（最低 1/20）；正文附 nightmedia 的 arc/c、arc/e、boolq 等 7 项基准对比数据，GGUF 版计划 2026 年 9 月 15-18 日左右发布，源权重随后放出。

    推荐理由：原文给出 Heretic 去对齐前后的拒绝率对比与 KL divergence 数据，可据此判断这个去对齐版本实际去掉了多少安全对齐。

  11. Reddit · r/LocalLLaMA60

    面壁 MiniCPM-V 4.7 发布 1B 版本，主打端侧多模态高效推理

    MiniCPM-V 4.7 系列发布 1B 版本，官方称在 Instruct 模式下基础能力较 MiniCPM-V 4.6 提升，整体得分和推理效率均优于 Qwen3.5 0.8B。该模型基于 LLaVA-UHD v4 的 intra-ViT 早期压缩技术，支持 4x/16x 混合视觉 token 压缩，支持 iOS、Android、HarmonyOS，提供 Rockchip、后摩、Intel、AMD、Arm 等芯片 day-0 支持，兼容 SGLang、vLLM、llama.cpp、Ollama，提供 GGUF、BNB、AWQ、GPTQ 量化及 FP8 支持，并发布 Self-Replay Fine-Tuning 微调方法。

    同一新闻，精选展示《面壁 MiniCPM-V 4.7 发布 35B-A3B 多模态 MoE 版本》

  12. Reddit · r/LocalLLaMA57

    MiniCPM-V 4.7 35B-A3B 发布，宣称在 iPhone 17 Pro Max 上可跑 13+ tok/s

    openbmb 在 Hugging Face 上线 MiniCPM-V 4.7 35B-A3B，帖子称其在 iPad Pro M4（16GB）上跑 17+ tok/s、iPhone 17 Pro Max 上 13+ tok/s、内存占用约 3GB。新引入的 LES（Lookahead Expert Scheduling）通过预测并预加载 MoE 专家减少推理停顿，宣称在输出一致的前提下最高提速 5 倍。其他要点包括 34 项多模态基准、OCRBench 90.4 分配合 16 倍视觉压缩、新的 1B 轻量 VLM、Self-Replay Fine-Tuning 低成本定制，以及支持 Apple、Intel、AMD、Arm、Rockchip 平台。

  13. Reddit · r/LocalLLaMA62

    面壁 MiniCPM-V 4.7 发布 35B-A3B 多模态 MoE 版本

    面壁智能发布 MiniCPM-V 4.7 系列最新模型，其中 35B-A3B 是该系列首个 MoE 模型，官方称其为首个可在端侧无损流畅运行的开源 MoE 模型，在 iPhone 17 Pro Max 上解码速度达 13+ tokens/s。模型基于 LLaVA-UHD v4 的 intra-ViT 早期压缩技术减少视觉 token 计算，支持混合 4x/16x 视觉 token 压缩，覆盖 iOS、Android 与 HarmonyOS，并对 Rockchip、后摩、Intel、AMD、Arm 芯片平台提供 day-0 支持；官方称 Instruct 模式下整体得分高于 Qwen3.6 35B-A3B 且推理时间更短。

    推荐理由：原文列出了 LES 调度、视觉 token 压缩和各平台量化支持，可了解这款端侧多模态 MoE 的部署路径。

  14. Hugging Face · 新模型：uncensored44

    Qwen3.8-27B-Uncensored 的非对称 GPTQ Int4 量化版发布，可单卡跑在 Intel Arc Pro B70 上

    darioooooo0o 发布 orcarouter/Qwen3.8-27B-Uncensored（OrcaRouter 基于 Qwen/Qwen3.8-27B 的 abliterated 微调版）的非对称 GPTQ Int4 量化版，group 128，lm_head、MTP head 和 vision tower 保留 BF16。在 Intel Arc Pro B70 + vLLM XPU v0.31.0 上单卡实现 262,144 token 上下文与视觉、MTP k=4，短提示解码 64-128 tok/s，KL 散度 0.018-0.060、top-1 一致率 94.1%，优于对称 GPTQ Int4 g128 方案。

10月12日周一
  1. Hugging Face · 新模型：uncensored32

    Sovereign-Uncensored-ARA-27B-MLX-4bit-v2 发布：面向 Apple Silicon 的标准 MLX 版本，支持视觉与原生 MTP

    proofofvitalik 于 2026-10-12 发布 Sovereign v2，将 ARA 27B uncensored 模型以 affine 4-bit（group size 64）打包为标准 qwen3_5 MLX 架构，无需 trust_remote_code，文本权重未合并、重训或重量化，并从同一 ARA 源恢复 BF16 视觉与原生 MTP。该版本使用独立仓库和 v2.0.0 标签，不替换旧版；声明架构上下文为 262,144，已在 mlx-vlm 0.7.6、mlx-lm 0.32.0、M4 Max/48GB 环境验证，LM Studio 与 Splash 1.3.1 均可加载。

  2. Reddit · r/LocalLLaMA49

    Precision Numerics 发布 1-bit 模型 Boole-1.7B，性能超越 Bonsai-1.7B

    Precision Numerics 发布基于 Qwen3-1.7B 的 1-bit 模型 Boole-1.7B，打包权重仅 247 MB，比 BF16 小 13.9 倍，在 10 项评测中平均保留 BF16 模型 85.9% 的分数，超越 1-bit Bonsai-1.7B 并接近 1.58-bit 版本。该模型面向英文、非思考模式的低延迟任务，可在浏览器本地运行，也支持 vLLM 和 llama.cpp，权重已在 HuggingFace 开源。

  3. Hugging Face · 趋势模型64

    NVIDIA 发布 Nemotron 3.5 Super VL 120B-A12B 的 NVFP4 量化版

    NVIDIA 在 Hugging Face 发布 Nemotron 3.5 Super VL 的 NVFP4 量化版本，这是一个 120B 总参数、12B 激活参数的视觉语言模型，采用 Mamba-2 与 MoE 混合架构加 C-RADIO 视觉编码器，支持最高 1M token 上下文和原生 MTP 投机解码。量化通过 BF16 模型的量化感知蒸馏完成，模型卡给出了 BF16 与 NVFP4 在 GPQA-Diamond、SWE-bench Verified、Video-MME v2 等数十项基准上的对照结果，并提供 vLLM、SGLang、TensorRT-LLM 在 DGX Spark、H200、H100、GB200 上的部署配置，许可证为 OpenMDW-1.1，可商用。

    推荐理由：模型卡同时给出 BF16 与 NVFP4 的完整基准对照和多种硬件部署配置，读者可以据此评估量化损失与所需显存门槛。

  5. Hugging Face · 新模型：abliterated18

    shadowdio 发布 Qwen3.5-2B-EmperoAI-Qwen3.8-Distill-Heretic-Abliterated GGUF 量化模型

    shadowdio 在 Hugging Face 上架 Qwen3.5-2B-EmperoAI-Qwen3.8-Distill-Heretic-Abliterated 的 GGUF 版本，提供 Q4_K_M 量化。该模型可经 Transformers 加载，也支持 llama.cpp 本地起 OpenAI 兼容服务，兼容 Ollama、LM Studio、Docker Model Runner、Lemonade 等工具，并可接入 Pi、Hermes、OpenClaw 等 Agent。

  6. GitHub · 去对齐工具与仓库22

    daVinci-LLM：面向 Windows 的开源大语言模型预训练研究项目

    daVinci-LLM 是一个可在 Windows 上运行的开源大语言模型研究项目，打包了预训练模型文件、训练数据、研究笔记与结果、配置文件，展示小模型经精细训练也能取得较好效果。项目要求 Windows 10/11、至少 8 GB 内存和 20 GB 磁盘空间（推荐 16 GB 内存和 NVIDIA/AMD GPU），采用 Apache 2.0 许可证。

  7. GitHub · 去对齐工具与仓库36

    GitHub 开源 awesome-vericoding：LLM 形式化验证代码（vericoding）资源大全

    GitHub 上的 JGalego/awesome-vericoding 仓库收录 vericoding——即由 LLM 生成带形式化证明代码——的各类资源，术语由 Bursuc et al. (2025) 提出。仓库将经典 vericoding（人写代码与证明、验证器检查）与 AI vericoding（模型与 agent 依据验证器反馈生成代码和证明）对比，并按基础理论、验证语言、证明助手、benchmark、agent 工具等分类整理。

  8. Hugging Face · 新模型：uncensored24

    softwareweaver/GLM-5.3-Uncensored-EXL3 量化版发布

    softwareweaver 发布 GLM-5.3 Uncensored 的 EXL3 量化转换版，源自 dealignai/GLM-5.3-UNCENSORED-FP8，提供 3bpw（307.59 GB）和 6bpw（585.17 GB）两种规格，均保留 MTP 并可选 DFlash2 文件夹。权重采用 ExLlamaV3 的高质量分配，实际码率略高于目标值，需搭配兼容推理软件和足够内存/显存使用。

  9. GitHub · 3D 生成新仓库44

    LAM-Diffusion 开源仓库发布：Large Action Model 规划器 + 扩散模型的可控动漫角色生成

    LAM-Diffusion 仓库实现了论文方法：用 Large Action Model 规划器把提示词转为结构化动作描述符，经双流条件控制驱动扩散 U-Net，生成可控动漫角色。基于 Animagine XL 4.0 在 H200 上训练 11,000 步，发布含 28,145 动漫动作-姿态-文本三元组的新数据集、训练好的模型及 Web 应用，颜色泄漏从 0.125/0.375 降至 0.05/0.10。

  10. Reddit · r/SillyTavernAI24

    Bathory-X 实验版模型发布：基于 Gemma 4 26B A4B 的推理 MoE 写作模型

    社区作者发布实验模型 Bathory-X，一个基于 Gemma 4 26B A4B 的推理 MoE 模型，经微调用于散文写作与角色扮演（含 ERP），应已完全无审查。模型融合了多个优秀写作模型的内容，旨在消除常见 AI 写作套路如滥用明喻、三段排比等。作者提供 Transformers 版本与 GGUF 量化，并征集各 backend 的问题反馈与最佳 preset。

  11. Hugging Face · 新模型：abliterated68

    Swift 1.5 Qwen3.8-Flash-Next NVFP4 去审查替换文件发布，附512剪至256专家的半专家变体

    作者发布 Swift 1.5 Qwen3.8-Flash-Next NVFP4 的去审查替换文件，将拒答方向以 1.5 倍强度从 151 个写入残差流的张量中投影掉，并提供每层专家从 512 个剪至 256 个的 pruned256 变体。逐文件给出 SHA-256 与验证报告，24,576 个专家重新量化后分量约 −0.498；实测在单卡 RTX PRO 6000（96 GB）上用 SGLang 可跑约每秒 1,000–1,200 生成 token，12 个中文政治敏感问题全部完整回答而原版大多拒答或给官方口径短答。未跑通用基准与 pruned256 变体；n-gram 嵌入分片约 102 GB 需从原仓库获取。

    推荐理由：作者给出了逐层投影去除拒答方向的做法和完整验证数据，包括编辑前后分量、量化误差和12题政治敏感问题实测对比，可直接复现。

  13. Hugging Face · 新模型：uncensored74

    DeepSeek-V4.1-Flash GSQ 混合精度量化版发布，单张 RTX 4090 可跑 552B MoE

    IndrasMirror 发布 DeepSeek-V4.1-Flash-GSQ-Uncensored，对 dealignai 的 abliterated 检查点做校准混合量化，552B 参数 MoE 压缩至约 163 GB（152 GiB 专家权重），可在 RTX 4090 24 GB + 90 GB RAM + NVMe 的家用 PC 上运行。量化采用三档专家格式（42.8% 三值、39.2% 2-bit、18.0% 3-bit），与同尺寸均匀 Q2_0 相比输出误差低 17%；held-out 困惑度 5.645（原模型 4.915），top-1 一致率 0.674。实测 Prefill 250 tok/s、Decode 约 26 tok/s（启用 ggml patch 可达 27+）。

    推荐理由：原文完整公开了混合精度量化的校准方法、逐层误差和困惑度数据，并给出在单张 RTX 4090 上复现所需的全套工具与硬件清单。

  14. Hugging Face · 新模型：uncensored72

    dealignai 发布 DeepSeek-V4.1-Flash 无对齐 FP8 权重版

    dealignai 团队发布基于 deepseek-ai/DeepSeek-V4.1-Flash（552B 底座、每 token 激活 8B/16B）的权重级 abliterated 无对齐版本，以原生 FP8 权重提供，支持 1M token 上下文、视觉与工具调用。HarmBench-320 实测显示 CRACK 版在 effort=off 和 max 下拒绝率均为 100% 通过（base 分别为 42.81% 和 1.56%），MMLU-14k 整体准确率从 86.96% 降至 82.74%，剔除伦理类科目后约 -1.1 pp；模型卡还给出 SGLang 部署命令、KV 内存占用、4×H200 实测吞吐（单流 101-113 tok/s）及多项启动注意事项。

    同一新闻，精选展示《DeepSeek-V4.1-Flash-UNCENSORED-FP8 发布：权重级消融版附拒绝率与 MMLU 对比》

  16. Hugging Face · 新模型：abliterated28

    mradermacher 发布 Huihui-Qwen3.8-27B-Coder390-EfficientThink-abliterated 的 GGUF 静态量化版本

    mradermacher 在 Hugging Face 上发布 Huihui-Qwen3.8-27B-Coder390-EfficientThink-abliterated 的 GGUF 静态量化版本。提供的量化档位按大小排序，包括 Q2_K（11.0 GB）、Q4_K_S（15.9 GB，标注 fast、recommended），以及 mmproj-Q8_0（0.7 GB）和 mmproj-f16（1.0 GB）的多模态补充文件。weighted/imatrix 量化暂不可用，用户可通过 Community Discussion 申请。

  17. Hugging Face · 新模型：uncensored36

    Qwen-Image-2.1 Uncensored GGUF 量化版本发布

    Hugging Face 上发布了 Qwen/Qwen-Image-2.1 的无审查 GGUF 量化版本，提供从 BF16（14.23 GB）到 Q4_0（4.15 GB）等多种量化文件，推荐 Q4_K_M 以平衡体积与质量。该版本移除内置安全检查器与内容过滤，可直接生成 NSFW 内容，需配合 ComfyUI 与 ComfyUI-GGUF 使用，仓库内包含 qwen3vl_8b 文本编码器和 VAE 等配套文件。采用 Qwen Research License 授权。

  18. Reddit · r/LocalLLaMA53

    vLLM Semantic Router 团队发布 Apache-2.0 多模态决策模型 Decision 3.0，覆盖 0.6B 到 27B 并登顶 Jev Decision Index 两项榜单

    作者与 vLLM Semantic Router 团队发布开源多模态决策模型家族 Decision 3.0，基于 Qwen3.5 与 Qwen3.8-27B，权重采用 Apache-2.0 协议，支持文本、图像和视频输入。模型输出 choice、yes/no、score 三种决策类型并给出概率，不生成文本；官方评测显示 27B 以 64.7 text 和 71.6 vision 登顶 Jev Decision Index 两项榜单，9B 版本（d3-flash）超过上一代 27B Decision 2.0，视频为 zero-shot，27B 在 Perception Test 19,140 个验证题上得 77.4。

  20. Hugging Face · 新模型：uncensored41

    Qwen-Image-2.1 Uncensored GGUF 量化版本发布，支持 ComfyUI 本地图像生成

    maximUlya 在 Hugging Face 发布 Qwen-Image-2.1 的 Uncensored GGUF 量化版本，基于上游原始权重，提供 BF16、Q4_K_M 等多种量化文件，大小从 4.15 GB 到 14.23 GB 不等，推荐 Q4_K_M（约 4.6 GB）兼顾体积与质量。该版本移除内置安全检查与内容过滤，可直接生成成人及敏感图像，不拒答也不出黑图。需配合 ComfyUI 与 ComfyUI-GGUF（leejet fork）使用，文本编码器卸载到系统内存可节省 9–17 GB VRAM，采用 Qwen Research License。

  21. Hugging Face · 新模型：uncensored22

    bowmanslayer/VeriLoop-E2-Uncensored-GGUF 上架 Hugging Face，附 llama.cpp 等多平台部署指南

    bowmanslayer 在 Hugging Face 发布 VeriLoop-E2-Uncensored-GGUF 模型，提供 Q4_K_M 量化版本。模型可通过 llama.cpp、vLLM、Ollama、Docker Model Runner、Lemonade 等工具在本地运行，并支持 llama serve 启动 OpenAI 兼容 API 服务器，也可接入 Pi、Hermes、OpenClaw 等 Agent。

  23. Hugging Face · 新模型：abliterated28

    Huihui-GLM-5.3-Flash-abliterated GGUF 模型上架 Hugging Face

    Petyx123 在 Hugging Face 发布 abliterated 版本的 Huihui-GLM-5.3-Flash GGUF 模型，提供 UD-Q4_K_XL 量化版本。该模型为图像-文本到文本多模态模型，可在 llama.cpp、vLLM、SGLang、Ollama、LM Studio、Docker Model Runner 等多种推理框架中运行，并支持通过 OpenAI 兼容 API 进行本地部署调用。

  24. Hugging Face · 新模型：abliterated25

    Lexum-J 发布 Qwen3.5-0.8B-Abliterated-V2 i1-GGUF 量化版本

    Lexum-J 在 Hugging Face 上发布 Qwen3.5-0.8B-Abliterated-V2 的 i1-GGUF imatrix 量化合集，提供从 i1-IQ1_S（0.4GB）到 i1-Q6_K（0.7GB）的多种量化文件。其中 i1-Q4_K_S 被标注为最优的尺寸/速度/质量平衡，i1-Q4_K_M 为推荐且快速的选项。同时提供 0.1GB 的 imatrix 文件供用户自行制作量化，静态量化版本另在独立仓库发布。

  25. Hugging Face · 新模型：uncensored27

    Zewsic 发布 diffusiongemma-26B-A4B-it-HERETIC-Uncensored-NVFP4 量化模型

    Zewsic 在 Hugging Face 发布 edwixx/diffusiongemma-26B-A4B-it-HERETIC-Uncensored 的 NVFP4 量化版本，基于 Heretic 修改后的专家权重而非原始 Google 模型。MoE 专家与 dense MLP 采用 NVFP4（W4A4、group size 16），注意力、embeddings、router、vision tower 等保留 BF16，校准使用 ultrachat_200k 的 128 个样本、截断至 2048 token。原生存储需 Blackwell 或更新 GPU，可通过 vLLM 部署，许可证为 Apache 2.0 加 Gemma 4 条款。