跳到正文
10月16日周五
  1. Hugging Face Blog75

    Meta 发布开源权重多模态 MoE 模型 Muse Spark Open,约 816B 参数、42B 激活

    Meta 在 Hugging Face 发布开源权重模型 Muse Spark Open,采用 MoE 架构,总参数约 816B、每 token 激活约 42B,支持文本、图像、音频和视频输入,上下文窗口最高 1M token。模型针对 agentic coding 训练,可读代码库、写代码、调试并调用工具;官方给出 transformers、llama.cpp、vLLM、SGLang、MLX 部署配方,BF16 权重约 1.5 TB,NVFP4 版可跑在单节点 B200 上,并用 TRL 在 64 张 H100 上完成 LoRA 微调演示。

    推荐理由:官方博客给出完整架构参数与多套部署配方,从 llama.cpp 量化到 TRL 微调实测数据都有,可按需选路径复现。

  2. Hugging Face · 新模型:uncensored24

    shimbaaa 发布 Supra2-100M-Uncensored-Instruct:基于 Supra2-100M-Base 的 100M 无审查指令模型

    shimbaaa 在 Hugging Face 上发布 Supra2-100M-Uncensored-Instruct,一个 100M 参数的指令模型,基于 SupraLabs/Supra2-100M-Base 经两阶段 LoRA 训练,训练上下文长度 512,采用 Apache-2.0 许可。模型被训练为以 Yes-Man 风格顺从用户提示,未做安全对齐,会认同错误前提;两阶段均混入 Dolly-15k 回放数据以减少灾难性遗忘。

  3. Reddit · r/LocalLLaMA59

    FLUX 3 Image Klein 开放权重发布,5.6B 文生图与图像编辑模型

    FLUX 3 Image Klein 开放权重发布,是一个 5.6B 的文生图与图像编辑模型。它接受提示词和最多 10 张参考图并输出一张图,文生图、单参考图编辑和多参考图合成走同一模型,文本编码器为 Qwen3-VL-4B-Instruct,权重在 Hugging Face 上提供。

    同一新闻,精选展示《Black Forest Labs 发布 FLUX.3 Image Klein,首日支持 Diffusers》

  4. Hugging Face · 新模型:uncensored28

    Qwen3.8-Flash-Next 无审查版 Q4_K_M .basalt 包发布(Hugging Face)

    Hugging Face 上发布了一个可直接运行的 .basalt 格式包,为无审查版 Qwen3.8-Flash-Next 的 Q4_K_M 量化构建,基于 125B 级 MoE 模型(qwen4exp 架构),文件大小 114.06 GiB,内置 Qwen tokenizer 与聊天模板,支持 --vision 图像输入。运行需 NVIDIA Blackwell GPU(compute capability 12.0)与 CUDA 13;在单张 RTX 5090 上 512k 上下文解码约 220 tok/s、prefill 约 5,900 tok/s。该仓库目前为私有测试状态,采用 Qwen Community License 1.0。

10月15日周四
  1. Reddit · r/LocalLLaMA51

    Mistral 发布时间序列基础模型 Timestral 并开放权重

    Mistral 发布时间序列基础模型 Timestral,提供 5M、28M、123M 和 209M 四个参数版本,用于零样本预测,权重已在 Hugging Face 开放。209M 版采用带时间注意力和变量注意力的 patch-based transformer,共 24 层,支持单变量与多变量预测、过去型与已知未来协变量,可输入最多 32,768 个历史时间步,单次前向最多预测 1,024 步,输出 21 个分位数的概率预测;源代码已在 GitHub 开放以复现基准结果。

  2. Reddit · r/LocalLLaMA67

    NVIDIA 发布 Nemotron 3.5 Bolt 74B-A9B 24GB 视觉语言模型

    NVIDIA 发布 Nemotron 3.5 Bolt 74B-A9B 24GB,一个面向本地日常智能体任务的开源权重视觉语言模型,采用原生 2-bit 量化(IQ2,量化感知训练)将 74B 总参数(9B 激活)压进 24GB 显存。架构为 Mamba-2 与 Transformer 混合加 LatentMoE,配 C-RADIO v4-H 视觉编码器,支持文本、图像和视频输入,上下文最长 256K tokens,可通过 vLLM 部署在 A100、H100-80GB 或 Blackwell 上,并支持经 DFlash 的 LiLiCorr 投机解码。许可证为 OpenMDW-1.1,可商用;GGUF 权重已上架 Hugging Face。

    推荐理由:原文给出了参数结构、量化精度、显存占用和部署硬件等具体规格,读者可以据此评估本地跑智能体任务的可行性。

  3. Hugging Face Blog73

    Apertus 1.5 发布:8B 与 70B 开放权重模型新增多模态与思考模式

    Project Apertus 发布 Apertus 1.5,在 8B 和 70B 两代模型基础上以继续预训练方式加入图像与音频理解、可选思考模式,上下文窗口扩至 262,144 tokens(4 倍),权重于 2026 年 7 月 24 日以 Apache 2.0 许可上传 Hugging Face。8B 与 70B 分别新增 4T 和 2T tokens 训练数据,多模态通过 Emu3.5 图像 tokenizer 和 WavTokenizer 以 early-fusion 方式并入词表,架构不变;后训练含 SFT、RLVR、DPO 与 SDPO,并公开中间检查点、数据混合与技术报告(arXiv:2610.15542)。

    推荐理由:官方发布说明完整公开了四阶段预训练、五阶段后训练流程与中间检查点,读者可复现各阶段对模型行为的影响。

  4. Hugging Face · 新模型:uncensored30

    Haiseni 发布 UncensoredLM-DeepSeek-R1-Distill-Qwen-14B 实验预览版

    Haiseni 在 Hugging Face 上推出 UncensoredLM-DeepSeek-R1-Distill-Qwen-14B 实验预览版,这是一款带推理能力的去审查模型,基于 DeepSeek-R1-Distill-Qwen-14B。模型采用固定的提示词模板(含 instruction、input、output 字段),作者称拒绝对齐边界清晰,并征集用户反馈以持续改进。

  5. Hugging Face · 新模型:abliterated28

    mradermacher 发布 MiniCPM-V-4.7-35B-A3B-abliterated-i1-GGUF 量化模型

    mradermacher 在 Hugging Face 上提供 MiniCPM-V-4.7-35B-A3B-abliterated 的 i1-GGUF 量化版本,提供 Q2_K 等量化格式。该模型可通过 llama.cpp、Ollama、Docker Model Runner、LM Studio、Jan 等工具运行,支持启动 OpenAI 兼容本地服务器或在终端直接推理,也可配置到 Pi、Hermes、OpenClaw 等 Agent 工具中使用。

  6. Hugging Face · 新模型:uncensored22

    mradermacher 发布 Qwen3.5-4B-MultiDistill-3xMerge-UNCENSORED-heretic 的 GGUF 静态量化版本

    mradermacher 在 Hugging Face 发布 Qwen3.5-4B-MultiDistill-3xMerge-UNCENSORED-heretic 的 GGUF 静态量化版本,提供从 Q2_K(2.0GB)到 f16(8.5GB)的多档量化文件,其中 Q4_K_S/Q4_K_M 标注为快速推荐档,Q8_0 为最佳质量档,并附带 mmproj 多模态补充文件。weighted/imatrix 量化暂未提供,用户可通过 Community Discussion 提出请求。

  7. Reddit · r/LocalLLaMA61

    TYGER 开放权重:单一模型同时做 ASR 与全双工轮次控制

    nineninesix 开放 TYGER 权重,单一模型同时处理 ASR 与全双工轮次控制,能识别说完、被打断和附和的 mm-hm。中位端点延迟 250 ms、80 ms 帧、无 lookahead;配套语音 Agent tyger-s2s 由 TYGER + Gemma 4 E4B + VoxCPM2 组成,单张 32 GB GPU 最多支持 4 路对话,目前仅支持英语。权重在 https://huggingface.co/nineninesix/tyger,代码在 https://github.com/nineninesix-ai/tyger-s2s。

    推荐理由:作者给出端点延迟、帧长和单卡并发数等具体指标,可据此评估这套语音方案在本地部署的可行性。

  8. Hugging Face · 趋势模型71

    上海AI实验室开源 Sage-A1.5:35B MoE 智能体模型,GAIA 达 95.1

    上海AI实验室在 Hugging Face 开源 Sage-A1.5,一个 35B MoE 智能体模型,支持子智能体并行编排、可选验证模式和原生函数调用,原生 256K 上下文可经 YaRN 扩展到 512K。官方评测称其在 XBench-DS-2510(92.0)、IFBench(81.6)等多个基准取得 SOTA,GAIA 达 95.1,高于所对比的 Kimi-K3、GLM-5.3、GPT-5.6-sol 等更大规模模型;相比 A1,SWE-bench Pro 提升 17.6。评测框架已开源,SGLang 和 vLLM 部署命令见模型卡(arXiv: 2610.28578)。

    推荐理由:官方模型卡同时给出与 35B 同级和更大模型的横向跑分与完整评测代码,读者可以按同一协议复现或对比。

  9. GitHub · 3D 生成新仓库46

    Supra-3D 开源 Supra-Tex:单张 RGB 图像生成可重新打光的 3D 纹理网格

    Supra-3D 在 GitHub 开源 Supra-Tex,可将单张 RGB 图像转为带纹理的 3D 网格,输出含 base color、metallic 和 roughness 贴图的可重新打光 GLB。项目仅用开源数据训练,性能与商业系统相当或更好,包含 2.1B 参数的 3D completion 模型(MIT 许可)和 33.6M 可训练参数的 Material Adapter(基于 Qwen-Image-2.1,Qwen Research 许可,非商业研究用途)。

  10. Reddit · r/LocalLLaMA48

    微软开源 UserRepGen-4B:基于 Qwen3.5-4B 微调的用户表示生成模型

    微软发布 UserRepGen-4B,一个基于 Qwen3.5-4B 微调的模型,可从多轮用户-助手对话中生成包含任务描述与行为描述的结构化自然语言用户表示,用于条件化独立的 LLM 用户模拟器。与 UserLM-8b 和 UserLM-2.0 生成用户话语不同,它只生成表示,不执行任务也不充当模拟器。该模型通过 hindsight distillation 的在线监督微调训练,推理时无需模拟 rollout 即可直接生成表示。

  11. Hugging Face · 新模型:uncensored28

    JMingo/gemma-4-26B-A4B-it-qat-uncensored-GGUF 模型上线 Hugging Face

    JMingo 发布的 gemma-4-26B-A4B-it-qat-uncensored-GGUF 现已可在 Hugging Face 获取,提供 Q4_0 量化版本。该模型可通过 llama.cpp 的 llama serve / llama cli 直接运行,也支持 Ollama、Docker Model Runner、LM Studio、Jan、Lemonade 等多种本地部署方式,并可接入 Pi、Hermes、OpenClaw 等 Agent 工具。

  12. Hugging Face · 新模型:uncensored23

    Qwen3.8-Flash-Next-Uncensored oQ5e 量化版上架 Hugging Face,附 FP8 PLE n-gram 表

    Hugging Face 用户 zviratko 发布 Qwen3.8-Flash-Next-Uncensored 的 oQ5e 量化权重,面向 oMLX 使用,并将 FP8 PLE n-gram 表移植进来,作者称 PLE 表数据的实际效果未知,属于实验性尝试。该模型在 intelligence benchmarks 上与原量化模型结果基本一致,主观连贯性良好。仓库保留 Qwen Community License 1.0,但源仓库标注的 Apache-2.0 与许可文件不一致,使用前需自行核查。

  13. Hugging Face · 新模型:uncensored18

    Ornith-1.5-9B-uncensored GGUF 量化版本发布

    Ornith-1.5-9B-uncensored 的静态量化 GGUF 版本已在 Hugging Face 上线,提供从 Q2_K(3.9GB)到 f16(18.0GB)的多档量化文件,其中 Q4_K_S、Q4_K_M 标注为快速且推荐,Q8_0 为最佳质量,并附带 mmproj 多模态补充文件。weighted/imatrix 量化版本另行提供,使用方法可参考 TheBloke 的 README 说明。

  14. Hugging Face · 新模型:uncensored23

    zviratko/Qwen3.8-Flash-Next-Uncensored-plefp8 发布

    zviratko 在 Hugging Face 发布 Qwen3.8-Flash-Next-Uncensored-plefp8,基于 ddark-il/Qwen3.8-Flash-Next-Uncensored 的量化权重,并移植了 FP8 PLE n-gram 表。作者称该实验性模型在 intelligence benchmark 上与原量化模型结果基本相同,主观上保持连贯,但更小损失的 PLE 表数据效果未知。模型采用 Qwen Community License 1.0,使用前需查看附带许可证。

  15. Reddit · r/LocalLLaMA63

    Sabi-Noema:面向能力与效率的 Qwen 3.8 27B 微调模型发布

    作者发布两个 Qwen 3.8 27B 后训练版本 Sabi-Noema 和 Sabi-Noema-MLA,仅用开源环境训练,声称在 <30B 模型中提升编码、Agent 和工具调用能力并降低幻觉率。Sabi-Noema 在 DeepSWE 上超过 GPT 6 Luna-medium,在 TB2.1、Tau-3 bench、ClawEval、BFCL v4 上超过 Luna-high,比基座 Qwen 在 TB2.1 少生成 50% token、在 DeepSWE 少 25%。

    推荐理由:原文给出了 token 减量和 KV cache 压缩的具体数字,还附带 24GB 显卡上的上下文对比,便于评估实际收益。

  16. Hugging Face · 新模型:uncensored19

    Evidence101/my-qwen-uncensored-GGUF 模型在 Hugging Face 上线,支持 llama.cpp 等多种本地运行方式

    Hugging Face 上架了 Evidence101/my-qwen-uncensored-GGUF 模型,可通过 llama.cpp 的 llama serve / llama cli 直接运行,并提供 OpenAI 兼容的本地服务器与 Web UI。该模型还支持 Ollama(ollama run)、Docker Model Runner、LM Studio、Jan、Lemonade 等多种本地部署方式,也可接入 Pi、Hermes、OpenClaw 等 Agent 工具。

  17. Hugging Face · 新模型:uncensored24

    ibyteohdear 发布 Qwen-Image-2.1-Turbo-Uncensored 去审查版图像生成模型

    Hugging Face 上线 ibyteohdear/Qwen-Image-2.1-Turbo-Uncensored 模型,提供 Diffusers 库、Google Colab、Kaggle 笔记本及 Draw Things、DiffusionBee 等本地应用的使用方式,支持 bfloat16 精度在 CUDA 或 Apple mps 设备上运行。该仓库被标记为含敏感内容,可能包含潜在有害与敏感信息,并非适合所有受众。

  18. Reddit · r/LocalLLaMA61

    Zellige AI 发布 Tessera-27B-B-CJK:用压缩 CJK 思考以节省 token 的 Qwen 微调模型

    Zellige AI 开源 Tessera-27B-B-CJK,一个基于 Qwen3.8-27B 的编码 Agent 模型,以混合英文、中文词汇和符号的压缩 CJK 思考来减少 token 消耗,思考过程与输出分离,回答和工具调用保持英文与代码。在 11 个 held-out 编码 Agent 任务上对比未微调基座:每轮思考 token 降至基座的 0.50-0.64 倍,88 轮匹配测试中工具调用 100% 有效、零重复循环,101K-131K token 提示下 6/6 工具调用有效;竞赛数学和难算法代码弱于基座。训练仅用四个短 LoRA 步骤,基于基座自身输出构建。

    推荐理由:原文给出与基座模型同任务对比的思考 token 消耗数据和训练流程,可了解用压缩 CJK 思考省 token 的具体做法。

  19. Hugging Face · 新模型:abliterated24

    Qwen3.8-27B-abliterated EXL3 2.60 bpw 量化版(SC-SH)发布

    Huihui-Qwen3.8-27B-abliterated 的 EXL3 2.60 bpw 量化(SC-SH)上线,基于 Qwen3.8-27B 的去审查版本,采用按张量噪声归因分配比特率并启用 scaled-Hessian,实测相对 abliterated BF16 参考困惑度增加 5.1%。量化占用约 11.96 GB,需 ExLlamaV3,可用 tabbyAPI 运行。基座为 27B 原生视觉语言模型,262K 原生上下文(可扩展至 1M),支持图像与视频理解。

  20. GitHub · 3D 生成新仓库38

    Dmitry-dev-pet/apatch-blender-demo 开源:基于验收契约的 Blender 智能体自动化参考演示

    Dmitry-dev-pet 在 GitHub 开源 apatch-blender-demo,一个契约驱动的 Blender 自动化最小参考演示,由独立冻结验证器检查生成的 .blend 文件。演示契约 BLENDER-RUBIK-001 要求构建由 27 个 cubie 组成的 3x3x3 魔方、54 个贴纸、执行 +90 度 U 层旋转并用 Eevee 输出 768x768 渲染;另有 480x480 序列演示和 BLENDER-SCENE-EDIT-001 受限场景编辑示例,GitHub Actions 使用固定的 Blender 5.2.2 LTS 运行同一流水线并发布工件。

  21. Reddit · r/LocalLLaMA63

    Telperion 发布 Qwen3.8-27B 潜在注意力变体,KV cache 压缩 4 倍

    Telperion 发布 Qwen3.8-27B 的潜在注意力变体 MLA 和 GLA-g2,将 KV cache 压缩 4 倍,可在消费级硬件上实现近 4 倍最大上下文或近 4 倍并发提升。其中 MLA 变体在 SWE-bench Verified(zero-shot、无工具、n>1500)上得分 42.1%,较原版 39.5% 提升 6.58%,推理 token 减少最多 20%;GLA-g2 面向双 GPU 用户,TP=1 和 TP=2 下均实现 4 倍压缩。

    推荐理由:原文给出了 KV 压缩倍率、SWE-bench 分数和量化后 top-1 分歧率的具体数据,可用作判断 latent attention 变体实际收益的参考。