跳到正文
  1. AIHOT · 精选56

    月之暗面 Kimi K3.1 Pro 上线 OpenRouter,1M 上下文多模态开源权重模型

    OpenRouter 宣布月之暗面的 Kimi K3.1 Pro 上线,定位为基于 Kimi K3 后训练、面向长程编码和智能体任务的 1M 上下文多模态开源权重模型。定价为 $2/M input tokens、$10/M output tokens,可在 OpenRouter 直接试用。

    推荐理由:正文给出了定价、上下文长度和定位说明,想试用长上下文编码与智能体场景的读者可以直接在 OpenRouter 上体验。

  1. Reddit · r/LocalLLaMA63

    HuggingFaceBio 发布 Carbon-X:基于 Qwen3-14B 微调的 14.8B DNA 语言模型

    HuggingFaceBio 发布 Carbon-X,一个 14.8B 参数的 decoder-only 模型,在 Qwen3-14B 基础上用 DNA 序列与自然语言联合训练,可在普通对话中直接分析原始 DNA 并用英文回答。混合 tokenizer 用 BPE 处理文本、以 6-mer 编码 DNA,无独立 DNA 编码器;五个 DNA 基准平均 66.7%(关闭思考),比 Qwen3-14B 高 27 分,接近 GPT-6.1 Sol 的 67.5% 而推理成本约其 1/1,800;估计分析 ClinVar 240 万个意义不确定变异约需 $300,而所测前沿模型需 $32,000 至 $400 万。

    推荐理由:原文给出五个 DNA 基准的平均分、与基线模型的差距和成本对比,可据此评估这个 DNA 微调模型的实际水平。

  1. Hugging Face Blog53

    IBM 发布 Granite Speech 5.0 系列语音模型,含新增 2B 及两款更新版本

    IBM 在 Hugging Face 发布 Granite Speech 5.0 系列:新增 granite-speech-5.0-2b 语音语言模型,并更新 granite-speech-5.0-470m-turboctc 和 granite-speech-4.1-2b-plus。2B 版支持六语种转录与翻译、2000 词关键词偏置,英文平均 WER 5.06%,在开源权重 ASR 模型中排名第 2;Turbo CTC 版扩展至七语种并提速约 1.6 倍至 19,870 RTFx;4.1 2B Plus 说话人归因与时间戳更准,长语音 WER 降 24%。三款模型均为 Apache 2.0 许可,支持 Transformers、vLLM、llama.cpp 等。

    推荐理由:官方给出各模型在 Open ASR Leaderboard 上的 WER、RTFx 和说话人归因误差对比数据,读者可据此挑选适合的语音模型。

  2. AIHOT · 精选56

    Meta 开源权重模型 Muse Spark Open 在 Fireworks 上线,816B MoE 支持 1M token 上下文

    Meta 的开源权重模型 Muse Spark Open 在 Fireworks 上线,提供 Day-0 serverless 调用。该模型为 816B 参数 MoE 架构,每 token 激活 42B 参数,上下文窗口 1M token,主打长上下文编码与 Agent 工作。

    推荐理由:给出了参数规模、激活参数和上下文窗口等关键配置,读者可据此判断该模型是否适合长上下文和 Agent 场景。

  1. Ollama Blog52

    Cloudflare 27B 多模态决策模型 Clef 上线 Ollama,本地与云端均可运行

    Cloudflare 的 27B 多模态决策模型 Clef 已在 Ollama 上线,用户可本地运行或使用 Ollama 云端。该模型从 Qwen3.8-27B 微调而来,以 Apache 2.0 协议开源,支持文本、JSON 与图像输入,可一次读取输入并同时对所有问题的答案打分,兼容 Jev 和 System One API。官方称其登顶 Cloudflare 的 Decision Index,在 Jev benchmark 套件多数项目上超过 Jev,例如 BFCL case exact 98.47 对 95.75;43 个评测的延迟中位数为 209.3ms(Clef-flash 为 38.8ms)。

    推荐理由:官方发布了多模态决策模型 Clef 的完整基准与延迟数据,读者可以直接对比它和 Jev 等模型在各场景的实际表现。

  2. Reddit · r/LocalLLaMA68

    Space Bunny 确认为 MiniMax M3.1 Flash,428B-A23B 权重周四放出

    曾在 OpenRouter 榜首停留 10 天、10 月 5 日消失的匿名模型 Space Bunny 确认为 MiniMax M3.1 Flash,API 已上线,权重定于 10 月 23 日放出。参数为 428B 总量 / 23B 激活,1M 上下文,支持文本、图像和视频输入,API 价格 $0.15 输入 / $0.60 输出;官方称在 automation-bench 上超过 Opus 5,在 deepswe 上与 DeepSeek V4.1 Flash 大致持平,terminal bench 上则明显落后(38.1 对 51.8),这些均为 MiniMax 自测数据。作者估算 Q4 量化约 230-250GB,适合 256GB Mac Studio 本地部署。

    推荐理由:作者把匿名模型与正式发布对上号,并提醒榜单数字全部来自 MiniMax 自测,读者可据此校准预期。

  1. arXiv · cs.CL53

    Muse Glimmer 30B 端侧智能体模型论文发布,Apache 2.0 开源

    论文介绍 Muse Glimmer,一个面向消费级硬件上自主智能体任务的开源 30B 因果语言模型,集多步推理、工具调用与失败恢复于一体,支持文本与图像输入,训练数据覆盖一百多种语言,量化至约 4-bit 可单 GPU 本地推理。作者称其在工具调用、多步规划和智能体任务完成上优于同尺寸的 Gemma4-31B 与 Qwen3.6-27B,模型以 Apache 2.0 许可发布。

    推荐理由:论文给出30B级端侧Agent模型在同尺寸模型上的基准对比,对关注本地部署智能体的人有参考价值。

  1. AIHOT · 精选63

    Meta 开放权重模型 Muse Spark Open 上架 OpenRouter

    Meta 发布开放权重模型 Muse Spark Open,现已在 OpenRouter 上线,定位为面向编码与智能体工作的美国最强开放权重模型。模型总参数 816B、激活 42B,支持 1M token 上下文窗口,原生多模态,支持图像、视频、音频和 PDF 输入,OpenRouter 定价为输入 $1.25/M、输出 $4.25/M。

    推荐理由:原文给出了参数量、激活规模、上下文窗口和 OpenRouter 定价,读者可以直接评估该开放权重模型的部署成本。

  2. Hugging Face Blog75

    Meta 发布开源权重多模态 MoE 模型 Muse Spark Open,约 816B 参数、42B 激活

    Meta 在 Hugging Face 发布开源权重模型 Muse Spark Open,采用 MoE 架构,总参数约 816B、每 token 激活约 42B,支持文本、图像、音频和视频输入,上下文窗口最高 1M token。模型针对 agentic coding 训练,可读代码库、写代码、调试并调用工具;官方给出 transformers、llama.cpp、vLLM、SGLang、MLX 部署配方,BF16 权重约 1.5 TB,NVFP4 版可跑在单节点 B200 上,并用 TRL 在 64 张 H100 上完成 LoRA 微调演示。

    推荐理由:官方博客给出完整架构参数与多套部署配方,从 llama.cpp 量化到 TRL 微调实测数据都有,可按需选路径复现。

  3. Reddit · r/LocalLLaMA59

    FLUX 3 Image Klein 开放权重发布,5.6B 文生图与图像编辑模型

    FLUX 3 Image Klein 开放权重发布,是一个 5.6B 的文生图与图像编辑模型。它接受提示词和最多 10 张参考图并输出一张图,文生图、单参考图编辑和多参考图合成走同一模型,文本编码器为 Qwen3-VL-4B-Instruct,权重在 Hugging Face 上提供。

    推荐理由:原文给出了参数量、参考图上限和文本编码器等关键配置,便于判断这个开放权重图像模型的实际用途。

  1. Reddit · r/LocalLLaMA67

    NVIDIA 发布 Nemotron 3.5 Bolt 74B-A9B 24GB 视觉语言模型

    NVIDIA 发布 Nemotron 3.5 Bolt 74B-A9B 24GB,一个面向本地日常智能体任务的开源权重视觉语言模型,采用原生 2-bit 量化(IQ2,量化感知训练)将 74B 总参数(9B 激活)压进 24GB 显存。架构为 Mamba-2 与 Transformer 混合加 LatentMoE,配 C-RADIO v4-H 视觉编码器,支持文本、图像和视频输入,上下文最长 256K tokens,可通过 vLLM 部署在 A100、H100-80GB 或 Blackwell 上,并支持经 DFlash 的 LiLiCorr 投机解码。许可证为 OpenMDW-1.1,可商用;GGUF 权重已上架 Hugging Face。

    推荐理由:原文给出了参数结构、量化精度、显存占用和部署硬件等具体规格,读者可以据此评估本地跑智能体任务的可行性。

  2. Hugging Face Blog73

    Apertus 1.5 发布:8B 与 70B 开放权重模型新增多模态与思考模式

    Project Apertus 发布 Apertus 1.5,在 8B 和 70B 两代模型基础上以继续预训练方式加入图像与音频理解、可选思考模式,上下文窗口扩至 262,144 tokens(4 倍),权重于 2026 年 7 月 24 日以 Apache 2.0 许可上传 Hugging Face。8B 与 70B 分别新增 4T 和 2T tokens 训练数据,多模态通过 Emu3.5 图像 tokenizer 和 WavTokenizer 以 early-fusion 方式并入词表,架构不变;后训练含 SFT、RLVR、DPO 与 SDPO,并公开中间检查点、数据混合与技术报告(arXiv:2610.15542)。

    推荐理由:官方发布说明完整公开了四阶段预训练、五阶段后训练流程与中间检查点,读者可复现各阶段对模型行为的影响。

  1. Google · AI 博客74

    Google 发布 Gemini 4 Argon,全渠道开放并公布基准表现

    Google 发布 Gemini 4 Argon,面向开发者、企业和消费者全球开放,API 定价为每百万输入 token 2 美元、输出 token 10 美元,支持 1M 输入输出 token 上限。模型在 Vals Index 排名第一,ERQA 具身推理基准得 87%,在 Antigravity 中使智能体代码提交量增加超 35%、回滚减少近三分之一;安全方面对抗性违规减少近 2 倍,Gray Swan 间接提示注入基准下 15 次自适应攻击成功率降至 0.7%。

    推荐理由:官方发布给出工程、科学与机器人三线的实测数据,可用于评估该模型在长程复杂任务上的真实表现。

  1. Hugging Face · 趋势模型62

    Black Forest Labs 开放 FLUX 3 Image Klein 5.6B 文生图与图像编辑权重

    Black Forest Labs 在 Hugging Face 开放 FLUX 3 Image Klein 权重,这是一个 5.6B 参数的文生图与图像编辑模型,支持最多 10 张参考图,以 Qwen3-VL-4B-Instruct 作为文本编码器。仓库含 BF16 蒸馏版及 FP8、NVFP4 量化变体,B200 上 1024x1024 推理峰值显存 BF16 为 31 GB;蒸馏版 16 步采样供自托管与 BFL API 使用,未蒸馏 Base 版用于微调与 LoRA 训练。模型采用 FLUX Kommunity License v.1.0,年收入低于 500 万美元的 Qualifying Users 可商用输出。

    推荐理由:模型卡同时给出蒸馏与未蒸馏两个检查点的定位、显存占用和许可证门槛,方便自托管者判断选哪个版本。

  2. Reddit · r/LocalLLaMA61

    MiniCPM-V 4.7 演示 35B 多模态模型在手机上以约 3GB 内存运行

    OpenBMB 的 MiniCPM-V 4.7 演示显示,35B-A3B MoE 视觉语言模型可在约 3GB 内存的手机上本地运行,可读现实标识、理解复杂文档并做视觉推理。关键在 LES(Lookahead Expert Scheduling),通过预测并预加载专家缓解 MoE 推理瓶颈;团队还发布了面向低资源设备的 1B 版本,以及用于定制微调同时保留通用能力的 SRFT 方法。GitHub:https://github.com/OpenBMB/MiniCPM-V

    推荐理由:帖子里讲清了 LES 通过预测并预加载专家来优化 MoE 端侧推理的思路,适合关注多模态模型本地部署的读者。

  3. Reddit · r/LocalLLaMA62

    面壁 MiniCPM-V 4.7 发布 35B-A3B 多模态 MoE 版本

    面壁智能发布 MiniCPM-V 4.7 系列最新模型,其中 35B-A3B 是该系列首个 MoE 模型,官方称其为首个可在端侧无损流畅运行的开源 MoE 模型,在 iPhone 17 Pro Max 上解码速度达 13+ tokens/s。模型基于 LLaVA-UHD v4 的 intra-ViT 早期压缩技术减少视觉 token 计算,支持混合 4x/16x 视觉 token 压缩,覆盖 iOS、Android 与 HarmonyOS,并对 Rockchip、后摩、Intel、AMD、Arm 芯片平台提供 day-0 支持;官方称 Instruct 模式下整体得分高于 Qwen3.6 35B-A3B 且推理时间更短。

    推荐理由:原文列出了 LES 调度、视觉 token 压缩和各平台量化支持,可了解这款端侧多模态 MoE 的部署路径。

  1. Hugging Face · 趋势模型64

    NVIDIA 发布 Nemotron 3.5 Super VL 120B-A12B 的 NVFP4 量化版

    NVIDIA 在 Hugging Face 发布 Nemotron 3.5 Super VL 的 NVFP4 量化版本,这是一个 120B 总参数、12B 激活参数的视觉语言模型,采用 Mamba-2 与 MoE 混合架构加 C-RADIO 视觉编码器,支持最高 1M token 上下文和原生 MTP 投机解码。量化通过 BF16 模型的量化感知蒸馏完成,模型卡给出了 BF16 与 NVFP4 在 GPQA-Diamond、SWE-bench Verified、Video-MME v2 等数十项基准上的对照结果,并提供 vLLM、SGLang、TensorRT-LLM 在 DGX Spark、H200、H100、GB200 上的部署配置,许可证为 OpenMDW-1.1,可商用。

    推荐理由:模型卡同时给出 BF16 与 NVFP4 的完整基准对照和多种硬件部署配置,读者可以据此评估量化损失与所需显存门槛。

  1. Hugging Face · 趋势模型56

    OpenMOSS 发布 MOSS-Image-SFT 文生图模型

    OpenMOSS 发布 MOSS-Image 系列的监督微调文生图模型 MOSS-Image-SFT,由 MOSS-Image-Base 微调而来,示例显示 SFT 版文本分组更清晰、白板排版更有序。模型支持自然语言提示词、标签序列和 JSON Layout 控制文字位置与物体排布,权重与推理代码以 Apache 2.0 许可开源,VAE 采用 FLUX.2 small decoder,并提供 ComfyUI 插件和 Prompt Enhancer skill。

    推荐理由:官方给出了从 Base 到 SFT 的同图对比和完整推理配置,读者可以直接复现文本排版更整齐的文生图效果。

  1. Hugging Face · 趋势模型59

    Datalab 发布 Indra OCR:1M 参数 OCR 模型 CPU 上每秒读 49 页

    Datalab 在 Hugging Face 开源 Indra OCR,主识别器约 1M 参数、模型仅约 18 MB,CPU 上吞吐 49 页/秒,单页延迟约 230 ms,比 Tesseract 和 PaddleOCR 快 11-17 倍。OmniParseBench headline 62.1 分,开启 --math 后升至 66.8,超过 PaddleOCR PP-StructureV3 的 58.4。支持输出 markdown、纯文本和带边界框的 JSON,代码 Apache 2.0,权重用修改版 OpenRAIL-M 许可,2000 万美元以下融资/营收的初创可免费商用;官方也列明复杂表格、手写和退化扫描等局限。

    推荐理由:官方给出了与 Tesseract 和 PaddleOCR 同机同页的延迟、吞吐和 OmniParseBench 对比,还写明了复杂表格、手写等不适场景。