跳到正文
#开源模型
10月14日周三
  3. Hugging Face · 新模型：abliterated27

    jongstra 发布 Qwen3.8-27B-Abliterated-MLX-6bit-fp16-mtp 社区转换版

    jongstra 在 Hugging Face 发布 Qwen3.8-27B-Abliterated-MLX 的 6bit FP16 社区转换版，面向 Apple Silicon 上 oMLX 的 FP16 prefill 路径，并从 metajazz 仓库移植了 29 个 tensor 的 MTP draft head。在 Mac Studio M2 Ultra 上实测，开启 MTP 后代码解码从 26.4 tok/s 升至 31.6 tok/s（+20%），推理任务 +25%，draft 接受率约 92%。该模型经 abliterated 处理以抑制拒答，采用 Apache 2.0 许可。

  4. Hugging Face · 趋势模型69

    Liquid AI 发布 LFM2.5-24B-A2B：24B 参数仅 2B 激活的端侧推理模型

    Liquid AI 在 Hugging Face 发布 LFM2.5-24B-A2B，一个 24B 总参数、2.45B 激活参数的纯推理模型，主打设备端私有 Agent，上下文 131,072 tokens，支持 16 种语言。该模型在 LiveClaw 上得 48.09 分，超过参数量多约 50% 的 Qwen3.6-35B-A3B（38.19）；在 Apple M5 Max 上解码 184 tok/s，单张 NVIDIA B300 GPU 高并发下超 21K 输出 tok/s。官方同步提供 FP8、GGUF、ONNX、MLX-4bit 等多格式权重，并给出与 vLLM、SGLang、llama.cpp、Transformers 的部署指南及 Agent Harness 配置示例。

    同一新闻，精选展示《Liquid AI 开放 LFM2.5-24B-A2B 权重，主打端侧推理智能体》

  5. Hugging Face · 新模型：abliterated56

    Llama-3.2-3B-Instruct 去对齐版发布，用 Heretic 消融后拒绝率从 96 降到 9

    Xx-Vexento-xX 基于 Heretic v2.0.0.dev0 发布了 meta-llama/Llama-3.2-3B-Instruct 的去对齐（decensored）版本。实测 100 条样本中拒绝数从原模型的 96 降到 9，KL 散度为 0.0430，并公开全部消融参数与复现说明。

    推荐理由：模型卡给出了消融参数、KL 散度和 100 题拒绝率的与原模型对照数据，且声明可复现并附复现说明。

  6. Hugging Face · 新模型：abliterated34

    Huihui-Qwen3.8-27B-abliterated 2.65bpw 量化版上架 Hugging Face

    Derpyhue 发布 huihui-ai/Huihui-Qwen3.8-27B-abliterated 的 2.65bpw 量化版本，该模型是通过 abliteration 技术移除拒绝行为的 Qwen3.8-27B 无审查版本。最新更新仅对第 18 至 51 层做了消融，其余层保持原样以保留更多原模型性能，MTP 和视觉部分未改动，可通过 ollama 运行 huihui_ai/Qwen3.8-abliterated 或 transformers 加载使用。

  8. Hugging Face Blog69

    Liquid AI 开放 LFM2.5-24B-A2B 权重，主打端侧推理智能体

    Liquid AI 发布开放权重模型 LFM2.5-24B-A2B，总参数 24B、每 token 仅激活 2B，定位端侧快速、私有的推理智能体。模型在 16 项基准上与参数量约多 50% 的 Qwen3.6-35B-A3B 竞争，LiveClaw 得分 48.09 对 38.19，在 8 项工具与智能体基准中的 5 项领先或持平，并在全部 3 项指令遵循基准领先；M5 Max 上解码 184 tok/s，单张 B300 高并发下超 21K 输出 tok/s。

    推荐理由：原文给出了完整的16项基准对比和端侧推理速度数据，可据此评估这款小激活参数MoE在工具调用场景的实际取舍。

  9. Reddit · r/LocalLLaMA67

    LiquidAI 发布 LFM2.5-24B-A2B 开放权重推理模型并放出 GGUF

    LiquidAI 发布 LFM2.5-24B-A2B，是 LFM2.5 家族中最大的最终版本，为 24B 总参数、2.45B 激活参数的 MoE 推理模型，主打端上快速私有 Agent，并放出 GGUF 权重和 playground.liquid.ai 在线演示。官方称其 agentic 与工具调用能力可对标总参数和激活参数多约 50% 的 Qwen3.6-35B-A3B，LiveClaw 得分 48.09 对 38.19；Apple M5 Max 上 184 tok/s，单张 NVIDIA B300 GPU 上最高 21K 输出 tok/s。模型上下文长度 131,072 tokens，支持 16 种语言，训练用量 36 trillion tokens。

    同一新闻，精选展示《Liquid AI 开放 LFM2.5-24B-A2B 权重，主打端侧推理智能体》

  10. Hugging Face · 新模型：uncensored68

    Launch80 发布 Swift-1.5-Qwen3.8-27B 全 INT4 无对齐烘焙版

    Launch80 在 Hugging Face 发布 Swift-1.5-Qwen3.8-27B-Uncensored-Int4-baked，将上游 ajgazin 的拒绝方向消融权重整体量化为 GPTQ INT4，lm_head 与 MTP draft 也压到 INT4，单卡 Intel Arc Pro B65 32 GB 可用原版 vLLM 服务 262,144 token 上下文。

    推荐理由：原文给出拒绝率实测、困惑度与逐张量相对误差对比，读者可据此核验这个 INT4 去对齐版本的量化质量与解码速度。

  14. Google · AI 博客74

    Google 发布 Gemini 4 Argon，全渠道开放并公布基准表现

    Google 发布 Gemini 4 Argon，面向开发者、企业和消费者全球开放，API 定价为每百万输入 token 2 美元、输出 token 10 美元，支持 1M 输入输出 token 上限。模型在 Vals Index 排名第一，ERQA 具身推理基准得 87%，在 Antigravity 中使智能体代码提交量增加超 35%、回滚减少近三分之一；安全方面对抗性违规减少近 2 倍，Gray Swan 间接提示注入基准下 15 次自适应攻击成功率降至 0.7%。

    推荐理由：官方发布给出工程、科学与机器人三线的实测数据，可用于评估该模型在长程复杂任务上的真实表现。

  15. Reddit · r/LocalLLaMA62

    webAI 发布基于 Granite 4.2 3B 的 3.66B 形式逻辑模型 TwIL-LM3-Pro

    webAI 发布 TwIL-LM3-Pro，一个基于 IBM Granite 4.2 3B、专为形式逻辑后训练的 3.66B 模型，做蕴含检查、规则归纳和 Lean 证明批评。模型卡显示 Logic composite 55.4（对比 Granite base 43.1、Qwen3-8B 53.4），BBH logic 95.4%，gpt-oss-120b 仍在规则归纳、蕴含和 Lean 形式化上领先。作者提到其 CPU-only Xeon（15 GiB 内存、无 GPU）上约 10.5 tok/s，比同硬件 Qwen3.8-27B 快 98 倍；Q4_K_M GGUF 为 2.09 GiB，支持 Ollama、LM Studio 和 llama.cpp，温度设为 0 并预留 2048+ token 预算。

10月13日周二
  1. Hugging Face · 新模型：uncensored31

    Qwen3.5-9B-Uncensored-HauhauCS-Aggressive 发布：移除拒答的激进版去审查模型

    HauhauCS 发布 Qwen3.5-9B 去审查激进版模型，在 465 个拒答测试中约 0 次拒答，宣称零能力损失、不改动数据集，但可能在回复末尾附带简短免责声明。模型为 9B dense 参数、262K 原生上下文（YaRN 可扩展至 1M）、原生多模态，提供 BF16（17 GB）至 Q4_K_M（5.3 GB）多档 GGUF，支持 llama.cpp、LM Studio 等运行时。

  2. Reddit · r/SillyTavernAI35

    Gemini 4 Argon 现身 Vertex API 与 Google AI Studio

    Reddit 用户发现 gemini-4-argon 已可通过 Vertex API 使用，随后确认也登陆 Google AI Studio 和 Google Ultra 订阅。Gemini Pro 订阅用户可获得约 10 美元 API 额度，新 Google Cloud 账号另有 300 美元试用额度；当前促销价为输入 $2 / 输出 $10 per mill tokens，正式价格为其两倍。模型也已提交至 OpenRouter。

  3. Hugging Face · 新模型：abliterated34

    huihui-ai 发布 abliterated 版 DeepSeek-V4-Flash-0731 GGUF 无审查模型

    huihui-ai 基于 deepseek-ai/DeepSeek-V4-Flash-0731 用 abliteration 技术制作了无审查 GGUF 版本，支持 llama.cpp 和 ds4，提供 Q2、Q4 等量化及 262144 上下文示例命令。Q4 采用了比 Q2 更强的 abliteration 强度，拒绝率更低；专家模块未被消融。模型适合研究测试用途，安全过滤大幅削弱，不建议直接用于生产环境。

  4. Hugging Face · 新模型：abliterated24

    hotdogs/Ternary-Bonsai-2-27B-Abliterated-Hemmingway-1-MTP 上架 Hugging Face，附 llama.cpp 等多平台使用指南

    hotdogs/Ternary-Bonsai-2-27B-Abliterated-Hemmingway-1-MTP 模型已在 Hugging Face 发布，默认量化版本为 Q2_0。文档给出 llama.cpp 的 macOS、Linux、Windows 安装方式及本地 OpenAI 兼容服务器启动命令，并说明在 Ollama、Docker Model Runner、Pi、Lemonade、Hermes Agent、OpenClaw 等工具中加载该模型的具体配置步骤。

  5. Reddit · r/LocalLLaMA42

    后续：将稠密模型转换为 Mixture-of-Experts，新模型 Qwen2.5-1.5B-MoE-A0.9B 首次在 GPU 上也明显提速

    用户 Bayliner1980 继续稠密模型转 MoE 的转换工作，发布 Qwen2.5-1.5B-MoE-A0.9B，并放出 0.5B 与 1.5B 两款 GGUF 版本。Q4_K_M 下 GPU 生成速度提升 32%、CPU 提升 41%，是首次在 GPU 上也明显快于稠密模型的转换；代价是 WikiText-2 困惑度升高约 41%，ARC 下降最多，GGUF 体积也更大（1.1 GB vs 0.9 GB）。作者称此为概念验证，该方法在 MLP 占比更大的大模型上应更划算。

  6. Hugging Face · 趋势模型63

    inclusionAI 发布 Ling-3.1-flash 混合推理模型

    inclusionAI 发布 Ling-3.1-flash，一个原生混合推理模型，总参数 560B、每 token 激活 25B，支持 1M token 上下文窗口。模型采用 Hybrid-linear MoE 架构（KDA 与 Gated MLA 混合注意力、512 个专家激活 8 个），在 Terminal-Bench 4.0、SWE-bench Pro、GDPVal-AA V2.1 等 Agent、编码和医疗金融类基准上有提升，并提供了基于开源编码 Agent Pi 构建的 LingCode 评测 harness。官方给出 SGLang（含 MTP 推测解码）和 vLLM 的部署配方，支持 Claude Code 等框架调用。

    推荐理由：官方模型卡同时给出架构规格、多基准评测和 SGLang 与 vLLM 的部署配方，方便读者评估并直接上手这个混合推理 MoE 模型。

  7. Hugging Face · 趋势模型62

    Black Forest Labs 开放 FLUX 3 Image Klein 5.6B 文生图与图像编辑权重

    Black Forest Labs 在 Hugging Face 开放 FLUX 3 Image Klein 权重，这是一个 5.6B 参数的文生图与图像编辑模型，支持最多 10 张参考图，以 Qwen3-VL-4B-Instruct 作为文本编码器。仓库含 BF16 蒸馏版及 FP8、NVFP4 量化变体，B200 上 1024x1024 推理峰值显存 BF16 为 31 GB；蒸馏版 16 步采样供自托管与 BFL API 使用，未蒸馏 Base 版用于微调与 LoRA 训练。模型采用 FLUX Kommunity License v.1.0，年收入低于 500 万美元的 Qualifying Users 可商用输出。

    推荐理由：模型卡同时给出蒸馏与未蒸馏两个检查点的定位、显存占用和许可证门槛，方便自托管者判断选哪个版本。

  12. Hugging Face · 趋势模型72

    Black Forest Labs 发布 FLUX 3 Image Klein 开放权重模型

    Black Forest Labs 在 Hugging Face 发布 FLUX 3 Image Klein Base，一个 5.6B 开放权重文生图与图像编辑模型，支持最多 10 张参考图，文本编码器为 Qwen3-VL-4B-Instruct。该仓库为未蒸馏 base checkpoint，面向微调、LoRA 训练与研究；模型卡强调必须使用提示词上采样器，并给出 BF16/FP8/NVFP4 格式在 B200 上 31/29/26 GB 的峰值显存数据。模型采用 FLUX Kommunity License，非商业使用免费，年收入低于 500 万美元的合格用户可享商业输出例外。

    推荐理由：官方模型卡写清了基础版与蒸馏版的分工、提示词上采样要求和各精度显存占用，方便读者选对 checkpoint 再动手。

  13. Hugging Face · 新模型：abliterated36

    huihui-ai 发布 Huihui-Qwen3.8-Flash-Next-abliterated-v2-GGUF：基于 Qwen3.8-Flash-Next 的去审查版本

    huihui-ai 基于 Qwen/Qwen3.8-Flash-Next 通过 abliteration 技术制作去审查版 GGUF 模型，v2 版调整了消融重点且未消融任何专家模块。模型适合小说写作和编程，官方演示使用 UD-Q4_K_XL 量化并支持 262144 上下文，兼容最新 llama.cpp 与 Strata。因安全过滤大幅降低，建议仅用于研究测试环境，输出可能含敏感或不当内容，用户需自行审查并承担相应风险。

  14. GitHub · 3D 生成新仓库62

    PlantGen 开源：用 L-system 从开放数据生成植物学准确的 3D 植物模型

    GitHub 新仓库 jferments/plantgen 发布，以开放数据驱动的 L-system 程序在本地确定性生长出植物学准确的 3D 植物模型，内置 152 个物种、62 个科和 15 个生长程序。植物不存储不分发，同一物种和种子在每台机器上逐位一致；编译器据光照、空间与邻居生成四级 LOD 网格与 impostor，可经 plantc export 输出 glTF（.glb）供游戏引擎和 Blender 直接打开。生成器仅依赖 libm、png、serde、serde_json 和 sha2，完全离线且不用 AI；项目不接受外部 issue 和 PR 以防 prompt injection，代码采用 MIT 许可。

    推荐理由：原文详述了以物种数据加 L-system 程序在本地确定性生成 3D 植物的完整方法，可离线复现且不依赖网络或 AI。

  18. Hugging Face · 新模型：abliterated32

    taurusduan 发布 Huihui-DeepSeek-V4-Flash-Vision-Exp-abliterated-GGUF 模型

    Hugging Face 上架 taurusduan/Huihui-DeepSeek-V4-Flash-Vision-Exp-abliterated-GGUF 模型，提供 BF16 量化版本。该模型为图像-文本到文本多模态模型，可通过 Transformers、llama.cpp、vLLM、SGLang、Ollama、Docker Model Runner 等多种方式运行，并支持 llama.cpp 和 vLLM/SGLang 的 OpenAI 兼容 API 本地服务。

  21. Hugging Face · 新模型：uncensored21

    Sulphur-2-Prompt-Enhancer-Uncensored-GGUF 模型使用指南

    Hugging Face 上的 BOBBYBONKERSBFD/Sulphur-2-Prompt-Enhancer-Uncensored-GGUF 提供了多种部署方式：可配合 LTX-2 视频生成管线（需搭配 google/gemma-3-12b 文本编码器，支持文生视频与图生视频），也可用 llama.cpp、vLLM、Ollama 等工具以 IQ4_NL 量化版本运行，支持 OpenAI 兼容 API 的本地服务器。