跳到正文
10月21日周三
  1. Hugging Face · 新模型:abliterated48

    Spark-X2.6-4B-Tema_Q-Abliterated 模型发布

    基于 XHToken/Spark-X2.6-4B 的去审查版本,用 Tema_Q-Abliterated v1.1.1(SCAPE 算法)从权重中消融拒绝方向,完整生成测试拒绝 0/100,KL 散度 0.0353。SCAPE 代理目标比常规全生成评估快约 49 倍,CPU 即可运行。用法与基础模型一致,支持 transformers、vLLM、llama.cpp 等。

  2. Hugging Face Blog24

    NVIDIA Kumo Forecast:结合预训练时间序列表示、历史模式检索与可解释性

    NVIDIA 发布 Kumo Forecast(前身为 NV-Tesseract Forecasting),一个多变量时间序列预测模型,基于 MOMENT-1-large 约 340M 参数编码器加可训练预测头。其 DARR 模式通过 k-nearest-neighbor 检索历史模式并与直接预测融合,并提供滞后与特征归因等可解释性输出。模型以 Apache 2.0 许可开源,支持 256 至 2048 的输入序列长度。

  3. Hugging Face · 新模型:uncensored21

    mradermacher 发布 gemma-4-E4B-it-The-DECKARD-Expresso-Universe-HERETIC-UNCENSORED-Instruct-bf16-GGUF 量化模型

    mradermacher 在 Hugging Face 上架 gemma-4-E4B-it-The-DECKARD-Expresso-Universe-HERETIC-UNCENSORED-Instruct-bf16-GGUF 量化模型,提供 Q4_K_S 等量化版本。该模型可通过 llama.cpp、Ollama、Docker Model Runner、LM Studio、Jan、Lemonade 等工具本地运行,支持启动 OpenAI 兼容服务器或在终端直接推理。

  4. GitHub · 3D 生成新仓库62

    Let It Be Simple 开源一步动作生成 VLA 模型代码与权重

    论文《Let It Be Simple: One-Step Action Generation for Vision-Language-Action Models》发布代码与权重,方法只需把训练时间步分布偏向噪声端点 t' = α·t / (1 + (α−1)·t),无需蒸馏、新目标函数或新架构即可训练一步 VLA 策略。论文认为该效应是结构性的:丰富观测 tightly 约束紧凑动作目标,使不可约速度损失在噪声端点坍缩,而非像图像生成那样形成 U 形。

    推荐理由:论文给出把训练时间步分布偏向噪声端点即可训练一步 VLA 策略的方法,并附开源代码、配置和 LIBERO 成功率数据,可复现验证。

  5. Hugging Face · 新模型:uncensored22

    mradermacher 发布 gemma-4-E4B-it-The-DECKARD-V2-Strong-HERETIC-UNCENSORED-Thinking 的 bf16 GGUF 量化版本

    mradermacher 在 Hugging Face 上架 gemma-4-E4B-it-The-DECKARD-V2-Strong-HERETIC-UNCENSORED-Thinking 的 bf16 GGUF 量化模型,提供 Q4_K_S 等量化格式。该模型可通过 llama.cpp、Ollama、Docker Model Runner、LM Studio、Jan 等工具本地运行,支持启动 OpenAI 兼容服务器或在终端直接推理,也可接入 Pi、Hermes、OpenClaw 等 Agent 工具。

  6. Hugging Face · 新模型:uncensored25

    mradermacher 发布 gemma-4-E4B-it-The-DECKARD-Expresso-Universe-HERETIC-UNCENSORED-Thinking 的 bf16 GGUF 量化版本

    mradermacher 在 Hugging Face 上发布 gemma-4-E4B-it-The-DECKARD-Expresso-Universe-HERETIC-UNCENSORED-Thinking 的 bf16 GGUF 量化版本。文档给出通过 llama.cpp、Ollama、Docker 等工具运行 Q4_K_S 量化文件的命令,可直接启动 OpenAI 兼容本地服务器或在终端推理。

  7. Hugging Face · 新模型:uncensored54

    xtools-at 发布 Ministral-3-8B-Reasoning-2512 的去对齐版本,拒绝率从 96/100 降至 6/100

    xtools-at 在 Hugging Face 放出 Ministral-3-8B-Reasoning-2512 的去对齐版本,基于 Heretic v2.0.0.dev0 Arbitrary-Rank Ablation(ARA)对第 13 至 25 层做消融。实测 100 次拒绝率从原模型的 96/100 降到 6/100,KL 散度为 0.0839;原模型为带视觉能力的 8.4B 语言模型加 0.4B 视觉编码器,支持 256k 上下文,BF16 需 24GB 显存,量化后低于 12GB。

    推荐理由:原文给出 Heretic ARA 消融参数与拒绝率从 96/100 降到 6/100 的前后对比,KL 散度数据可直接评估去对齐改动幅度。

  8. Hugging Face · 趋势模型59

    HuggingFaceBio 发布 14.8B DNA 语言模型 Carbon-X

    Hugging Face 联合 Zhongguancun Academy 与 Telethon 遗传学研究所发布开源 14.8B 模型 Carbon-X,基于 Qwen3-14B,用混合 tokenizer 在单一 decoder 中联合建模 DNA 序列与自然语言。五项 DNA 基准平均 66.7%(关闭思考),比起点 Qwen3-14B 高 27 分,接近 GPT-6.1 Sol 的 67.5% 而推理成本约为其 1/1800,分析 ClinVar 全部 240 万意义不明变异约花 $300。权重以 bfloat16 适配单张 80 GB GPU,可用 vLLM 部署,支持作为 agent 工具调用,未做临床验证、不可用于医疗决策。

    推荐理由:原文给出五项 DNA 基准得分、成本对比和完整训练配方,读者可以据此评估这个 DNA 语言模型的实际水平与用法。

  9. Reddit · r/LocalLLaMA52

    OvisOCR3 发布:基于 Qwen3.5-0.8B 的 OCR 模型,支持结构化输出与跨页表格重建

    OvisOCR3 基于 Qwen3.5-0.8B,以 Apache 2.0 开放,附 vLLM 推理示例。新增结构化 JSON 输出(含边界框与元素类别)、按字段或 JSON 模板的关键信息抽取、图表描述与流程图 Mermaid 输出,以及先解析再用同一模型合并相邻页表格片段的跨页表格重建。官方报告 OmniDocBench v1.6 得分 96.74、MDPBench 88.80(由 69.00 提升)、PureDocBench 82.31(由 75.10 提升)。

  10. Reddit · r/LocalLLaMA45

    InternScience 发布 Sage-A1.5:基于 Qwen3.6-35B-A3B 的 35B MoE 智能体模型微调

    InternScience 发布 Sage-A1.5,一个基于 Qwen3.6-35B-A3B 微调的 35B Mixture-of-Experts 智能体模型,主打长程科学问题求解。该模型支持跨子智能体的并行任务编排与独立上下文、可选的链式思维内自验证,以及原生 function calling 等工具集成能力,提供 GGUF 格式供社区使用。

  11. Hugging Face · 新模型:uncensored48

    LxBarn 发布 Ministral-3-3B-Reasoning-UNCENSORED-heretic 去审查版

    LxBarn 基于 unsloth/Ministral-3-3B-Reasoning-2512,用 Heretic v2.0.0.dev0 的 ARA 方法制作去审查版本。去审查后拒绝率从 91/100 降至 1/100,KL divergence 为 0.0170。该 3.4B 语言模型加 0.4B 视觉编码器的推理模型支持 256k 上下文,BF16 下可装入 16GB VRAM,量化后低于 8GB,采用 Apache 2.0 开源协议。

  12. Hugging Face · 新模型:uncensored57

    Qwen3.8-27B Uncensored Aggressive GGUF 量化版发布,附 FastMTP 加速方案

    HauhauCS 发布 Qwen3.8-27B 的 Aggressive 去对齐 GGUF 量化版,实测 465 次测试中 0 次拒绝,保留文本、推理、Agent 及图像视频能力。附带 FastMTP 32K 加速 sidecar,在 Q8_K_P 下文档生成速度达非 MTP 的 3.02 倍、推理生成 1.93 倍,比内嵌 MTP 再快 35.2% 和 21.1%;数据基于 RTX PRO 6000 Blackwell 96 GB、204800 上下文测得。需 llama.cpp 打补丁运行,视觉输入需单独 BF16 projector,沿用 Apache 2.0 许可。

    同一新闻,精选展示《HauhauCS 发布 Qwen3.8-27B 无对齐 Aggressive GGUF 量化版》

  13. Reddit · r/LocalLLaMA51

    Qwen3.8-Flash-Next 1.66bpw EXL3 量化可完整装入 5090 并稳定推理

    /u/Unstable_Llama 在 r/LocalLLaMA 分享 Qwen3.8-Flash-Next 的 1.66bpw EXL3 量化版本,无需 offload 专家即可完整装入 5090。推理全程稳定、无推理循环,速度 200-300 t/s;因 32 GB 显存即便配合 cache 量化上下文空间仍紧张,需做较多 compacting。权重发布在 https://huggingface.co/turboderp/Qwen3.8-Flash-Next-exl3,附量化模型生成的液体猫演示视频。

  14. Reddit · r/LocalLLaMA48

    KRAFTON 发布 Raon-1-mini-preview:30B-A4B MoE 开源模型

    KRAFTON AI 从零训练的 Raon-1 mini 是 30B-A4B 的 MoE 大语言模型,以 Apache 2.0 许可开源,主打韩语对话与智能体任务。模型内置思考能力,支持 Hermes Agent、Pi 和 OpenCode 的工具调用,并提供 DFlash2 草稿模型加速投机解码;提供 MXFP8 与 NVFP4 量化版本,NVFP4 可在单张 RTX 5090(32 GB VRAM)上推理。

  15. Hugging Face · 新模型:uncensored22

    botp/Moss-image-nsfw-uncensored-lora:基于 MOSS-Image-SFT 的 NSFW 去审查 LoRA 使用指南

    botp/Moss-image-nsfw-uncensored-lora 是一个用于 OpenMOSS-Team/MOSS-Image-SFT 的 NSFW 去审查 LoRA 权重,可通过 Diffusers 加载,提示词以触发词 moss_xvstyle 开头。官方文档给出 pip 安装与推理代码示例,并支持 Google Colab、Kaggle、Draw Things、DiffusionBee 等笔记本与本地应用。

  16. Hugging Face · 新模型:abliterated70

    koldfrontier 发布 DeepSeek-V4.1-Flash-1017 FP8 abliterated 完整权重

    koldfrontier 在 Hugging Face 发布 DeepSeek-V4.1-Flash-1017 的 FP8 abliterated 完整权重,仅原地改写 52 个张量(attn.wo_b,第 10-35 层),lambda 2.5,架构不变,可直接用 vLLM 或 SGLang 按原配方部署。实测 1,207 条提示下拒绝率大幅下降,如 HarmBench 从 94.1% 降至 5.0%,过拒率略有改善;代价是一个安全工具的授权/未授权配对从 8/11 降到 0/11,另提供保留 6/11 配对的 lambda 1.0 overlay 版本。

    同一新闻,精选展示《koldfrontier 发布 DeepSeek-V4.1-Flash-1017 abliterated 全量权重》

  17. Hugging Face · 新模型:abliterated20

    pottokao 发布 MiniMax-H3-TextEncoder-16GB-abliterated-GGUF 模型

    pottokao 在 Hugging Face 上发布 MiniMax-H3-TextEncoder-16GB-abliterated-GGUF 模型,提供 abliterated 版本的 GGUF 格式。该模型可通过 llama.cpp 的 llama serve / llama cli 直接运行,支持启动 OpenAI 兼容本地服务器,并兼容 Ollama、Docker Model Runner、LM Studio、Jan、Pi、Hermes Agent、OpenClaw、Lemonade 等多种工具。

  18. Hugging Face · 新模型:abliterated54

    Ternary-Bonsai-2-27B 无对齐 GGUF 发布,MTP 头重量化后可跑进 8GB 显存

    作者发布 Ternary-Bonsai-2-27B-Abliterated-PQ2_0-MTP-Q4_0-GGUF,在 Hikari07jp 的 abliterated 构建基础上把 MTP 草稿头从 Q8_0(430.41 MiB)重量化为 Q4_0(227.91 MiB),使组合能在 8GB 显卡上运行,实测 RTX 3070 上 45.7 tok/s、7 724 MiB 显存。主干与 abliterated 构建逐位一致,仅 blk.64.* 不同;因 MTP 头只是草稿、输出由主模型验证,困惑度 8.4593 与无头版本 8.4557 在测量误差内,200 个贪心 token 零分歧。

    推荐理由:作者给出逐字节校验和 RTX 3070 8GB 实测数据,说明把 MTP 头降到 Q4_0 后为何不损失输出质量。

  19. Hugging Face · 新模型:abliterated12

    dealignai 发布 Ornith-1.5-122B-ABLITERATED GGUF 版本

    dealignai 在 Hugging Face 上架 Ornith-1.5-122B 的 ABLITERATED GGUF 版本。该列表不含模型权重,权重与完整模型卡位于 dealignai/Ornith-1.5-122B-UNCENSORED-GGUF 仓库,下载、评测结果和运行说明请使用该 UNCENSORED 仓库,基座模型为 ornith-ai/Ornith-1.5-122B。

  20. AIHOT · 精选56

    Meta 开源权重模型 Muse Spark Open 在 Fireworks 上线,816B MoE 支持 1M token 上下文

    Meta 的开源权重模型 Muse Spark Open 在 Fireworks 上线,提供 Day-0 serverless 调用。该模型为 816B 参数 MoE 架构,每 token 激活 42B 参数,上下文窗口 1M token,主打长上下文编码与 Agent 工作。

    推荐理由:给出了参数规模、激活参数和上下文窗口等关键配置,读者可据此判断该模型是否适合长上下文和 Agent 场景。

  21. Hugging Face · 新模型:abliterated18

    dan9070 发布 Swift-1.5-Qwen3.8-Flash-Next-GSQ-RCO-abliterated 量化模型(IQ3_S/Q8PLE)

    dan9070 在 Hugging Face 上发布 abliterated 版模型 Swift-1.5-Qwen3.8-Flash-Next-GSQ-RCO-abliterated-IQ3_S-Q8PLE,提供 Q8_0 等量化版本。该模型可通过 llama.cpp 本地运行,支持 OpenAI 兼容服务器与终端推理,并可在 Ollama、Docker Model Runner、Lemonade 等工具中直接调用。

  22. Hugging Face · 新模型:uncensored42

    Qwen-Image-2.1 Uncensored 量化版发布,提供 GGUF/Safetensors/MLX 多格式本地部署

    Hugging Face 上发布 Qwen-Image-2.1 Uncensored 量化模型,基于 Qwen/Qwen-Image-2.1 原始权重,提供 GGUF、Safetensors 和 MLX 格式,其中 Q4_K_M GGUF 为 4.60 GB 且被推荐为体积与质量的最佳平衡,MLX 格式针对 Apple Silicon 优化。该版本无内置安全检查或内容过滤,可直接生成成人、NSFW 及敏感图像,需配合 ComfyUI 与 ComfyUI-GGUF 使用,文本编码器 qwen3vl_8b_int8_convrot 可卸载到系统内存以节省 9–17 GB 显存。