跳到正文
今天10月27日周二1 条
  1. Reddit · r/LocalLLaMA31

    在本地运行 Qwen 3.8 Flash Next 的体验

    一位 Reddit 用户在 32GB 内存加 RTX 3090(24GB 显存)的游戏电脑上,通过 strata 和 hermes 运行 Qwen 3.8 Flash Next,一夜生成了一个加拿大 EV 比价网站,含 CAD 计价与省级补贴信息。Claude Opus 5.5 随后修复了部分问题并核查事实,发现省级补贴计划存在错误。作者认为首版已相当接近一次成型。

10月25日周日
  1. Hugging Face · 趋势模型56

    南北阁发布 Nanbeige4.3-33B,主打约 30B 级开源模型中的智能体能力

    南北阁团队发布 Nanbeige4.3-33B,定位为 Nanbeige4.3 系列的教师模型,用于后续向更小模型(如 Nanbeige4.3-3B)蒸馏智能体能力。官方基准显示其在约 30B 参数开源模型中于 Terminal-Bench 2.1、DeepSWE、Automation Bench 等多数智能体编码与协作任务上领先,并说明在 35 个职业的 JobBench 评测中多数占优。模型支持 512K 上下文,提供 enable_thinking 与 preserve_thinking 等可配置聊天模板,可用 Transformers、SGLang 或 vLLM 部署。

    推荐理由:原文给出与同规模开源模型的完整基准对比和推理部署配置,可借此了解 30B 级开源智能体模型的实际水平。

10月24日周六
  1. AIHOT · 精选56

    月之暗面 Kimi K3.1 Pro 上线 OpenRouter,1M 上下文多模态开源权重模型

    OpenRouter 宣布月之暗面的 Kimi K3.1 Pro 上线,定位为基于 Kimi K3 后训练、面向长程编码和智能体任务的 1M 上下文多模态开源权重模型。定价为 $2/M input tokens、$10/M output tokens,可在 OpenRouter 直接试用。

    推荐理由:正文给出了定价、上下文长度和定位说明,想试用长上下文编码与智能体场景的读者可以直接在 OpenRouter 上体验。

10月23日周五
  1. Hugging Face · 趋势模型65

    KRAFTON 发布 Raon-1 mini preview 开源模型,30B-A4B MoE 架构,Apache 2.0 开源

    KRAFTON 从零训练的 Raon-1 mini preview 发布,为 30B-A4B(28.8B 总参数、每 token 激活 4.3B)MoE 模型,采用 Raon Delta Attention 与 Raon-mHC 的混合注意力架构,原生支持 262,144 token 上下文,以 Apache 2.0 许可开源。主打韩语对话与 Agent 任务,支持 Hermes Agent、Pi 和 OpenCode 工具调用;官方基准显示其在 IFBench、Chatbot Korean 等项目领先对比 MoE 模型。

    推荐理由:模型卡给出了与其他 MoE 和稠密模型的基准对比、架构细节和完整本地部署方案,可据此评估其真实定位。

10月22日周四
  1. Reddit · r/LocalLLaMA56

    Recursive Flint 编码智能体模型引热议,基准成绩超越 Qwen3.6-35B-A3B

    Reddit 用户 /u/returnity 介绍 Recursive Flint 编码智能体模型,称其为 40B 参数、2.5B 激活的模型,在 TerminalBench 2.1 和 SWE-bench Pro v2 上大幅超越 Qwen3.6-35B-A3B,其余所选基准持平或更好。模型采用 3:1 SWA 与全注意力比例,支持 262k 上下文,已提供 Recursive 博客、WIRED 报道、llama.cpp PR 和 Unsloth GGUFs。作者正在下载,几天后公布实测基准;更新称初步反馈显示 Ornith-1.5 仍是该级别标准,情况不如预期乐观。

  2. Hugging Face · 趋势模型61

    Recursive 发布开放权重 MoE 编码模型 Flint(39.8B 总参数、约 2.5B 激活)

    Recursive 在 Hugging Face 开放其面向编码智能体的 MoE 模型 Flint 权重,总参数 39.8B、每 token 激活约 2.5B,Apache 2.0 许可。官方评测中 Terminal-Bench 2.1 得分 54.9%、SWE-bench Pro v2 为 89.7%、SWE-bench Verified 为 74.2%;仓库含 BF16 checkpoint 和 SGLang 部署套件,支持 262,144 token 上下文与 OpenAI 兼容工具调用,单个 B300 或 H200 GPU 即可运行一个副本。

    推荐理由:官方模型卡完整给出架构规格、评测设置和单卡部署方法,读者可以据此判断这个编码智能体模型的实际部署成本。

  3. Hugging Face Blog60

    NVIDIA 发布 Kumo Relational 关系型数据基础模型,无需训练即可超越监督学习

    NVIDIA 发布预训练关系型基础模型 Kumo Relational,直接在企业数据库上做预测,无需任务训练、特征工程或表拼接,单次前向传播即可预测流失、需求、欺诈等结果,权重已开放下载。模型通过 in-context learning 读取最多 10,000 个历史样本,在 15 个数据库的 41 个任务上超过监督式关系深度学习和梯度提升树流水线,在 SAP SALT 企业基准上 MRR 领先 AutoGluon 集成 8%,微调后领先 16%;预训练使用基于 PluRel 方法的合成关系数据。模型可在 RelArena-α 榜单上以约 17 秒/千样本的速度达到 Elo 1,842,比最高分条目快约 430 倍。

    推荐理由:原文给出了跨 41 个任务的基准对比和架构细节,可以了解结构化数据基础模型这条路线的实际水平与用法。

10月21日周三
  1. AIHOT · 精选56

    Meta 开源权重模型 Muse Spark Open 在 Fireworks 上线,816B MoE 支持 1M token 上下文

    Meta 的开源权重模型 Muse Spark Open 在 Fireworks 上线,提供 Day-0 serverless 调用。该模型为 816B 参数 MoE 架构,每 token 激活 42B 参数,上下文窗口 1M token,主打长上下文编码与 Agent 工作。

    推荐理由:给出了参数规模、激活参数和上下文窗口等关键配置,读者可据此判断该模型是否适合长上下文和 Agent 场景。

  2. Reddit · r/LocalLLaMA38

    Spark-X2.6-4B 发布:基于 Spark-X2.5-4B 后训练升级的端侧小模型

    Spark-X2.6-4B 发布,架构与 Spark-X2.5-4B 完全相同,能力提升来自改进的后训练,在编程、智能体、长上下文、多语言和推理等方面显著增强。该模型在同等规模开源模型中达到 SOTA,可匹敌约 9B 参数的模型,并提供 none、low、high 三档可配置思考预算以平衡推理质量、延迟与推理成本,面向端侧部署。

10月20日周二
  1. Hugging Face · 趋势模型69

    Recursive 发布 MoE 编码智能体模型 Flint,unsloth 上线 GGUF 量化版

    Recursive 发布了面向编码智能体的 MoE 语言模型 Flint,总参数 39.8B、每 token 激活约 2.5B,在 Terminal-Bench 2.1 得 54.9%、SWE-bench Pro v2 得 89.7%、SWE-bench Verified 得 74.2%。模型采用 256 路由专家加共享专家、49 层(2 稠密 + 47 MoE)、262,144 token 上下文,以 Apache 2.0 许可发布,附 BF16 检查点、SGLang 服务套件及面向 NVIDIA 和 Apple Silicon 的量化版本,unsloth 提供 GGUF 格式和运行指南。

    推荐理由:官方模型卡给出了架构细节、评测设置和基准分数来源标注,读者可以据此了解这款小激活参数编码智能体模型的实际规格。

10月19日周一
  1. Hugging Face · 趋势模型47

    XHToken 发布端侧模型 Spark-X2.6-4B(GGUF)

    XHToken 在 Spark-X2.5-4B 基础上推出端侧部署模型 Spark-X2.6-4B,架构不变,靠改进后训练提升编码、Agent、长上下文、多语言与推理能力,在同级开源模型中达到 SOTA,可匹敌或超越约 9B 参数的模型。模型提供 none、low、high 三档可控思考预算,支持最大 1,048,576 token 上下文,推理效率不低于 Qwen3.5-4B 和 Gemma-E4B,并可在 SGLang、vLLM 上部署。

  2. Hugging Face · 趋势模型44

    XHToken 发布 Spark-X2.6-4B:面向端侧 Agent 的通用语言模型

    XHToken 发布 Spark-X2.6-4B,是基于 Spark-X2.5-4B 的端侧通用语言模型,架构不变,通过改进后训练提升编码、Agent、长上下文、多语言和推理能力。该模型在同级开源模型中达到 SOTA,可匹敌约 9B 参数模型,支持 none/low/high 三档可控思考预算,最大上下文长度 1,048,576 tokens。模型权重已在 Hugging Face 开源,支持 Transformers 和 SGLang(含 NVIDIA GPU 与 Ascend NPU)推理部署。

10月18日周日
10月17日周六
  1. Hugging Face · 趋势模型65

    DeepSeek 发布 DeepSeek-V4.1-Flash-1017 小版本更新

    DeepSeek 发布 DeepSeek-V4.1-Flash-1017,是 DeepSeek-V4.1-Flash 的小版本更新,在推理、编码、Agent 任务和视觉基准上大幅提升,同时缩短任务执行时间和输出长度,推进多 Agent harness 下的性能成本帕累托前沿。Terminal-Bench 4.0 达 42.3(上一版 31.2),Automation-Bench 达 60.5。该版本不含 Jinja 聊天模板,改为提供 encoding.py 参考实现和 deepseek-recipe Rust 库工具包,支持 1M tokens 上下文窗口、max_tokens ≥ 256K,推荐 temperature 1.0、top_p 1.0,采用 MIT 许可证。

    推荐理由:技术报告给出与 Kim3、GPT-5.6、Opus 5 等的对比数据,并附推荐采样参数与推理工具链,方便本地复现。

  2. Hugging Face · 趋势模型69

    MiniMax 发布 MiniMax-M3.1-Flash:原生多模态 MoE 模型,1M tokens 上下文

    MiniMax 发布 MiniMax-M3.1-Flash,一个面向编码、Agent 工作流、computer use 和网络安全的原生多模态 MoE 模型,总参数约 428B、每 token 激活 23B,支持文本、图像、视频输入,上下文窗口最高 1M tokens。相比 M3 的三项主要变化是全程稀疏注意力、量化感知训练,以及用 DSpark 投机解码取代此前的 EAGLE 类 MTP 方案。

    推荐理由:官方公布与 DeepSeek、Kimi 等模型在十余个 Agent 与编码基准上的横向对比,并说明评测设置,读者可据此自行评估实际水平。

10月16日周五
  1. Reddit · r/LocalLLaMA65

    Reflection 发布开源 MoE 模型 Beam 501B A23B,支持 1M 上下文

    Reflection 在 Hugging Face 发布开源模型 Beam,采用 MoE 架构,总参数 501.3B、激活 23.4B,支持 1M token 上下文,提供 BF16、FP8 和 NVFP4 三种数值格式。官方称其推理 token 用量约为同类领先开源模型的 1/3,并给出 SWE Bench Pro v1 66.1%、AIME 2026 97.7%、GPQA Diamond 90.6% 等基准成绩,主打 agentic 工具调用、编码与推理能力。

    同一新闻,精选展示《Reflection 发布开源 MoE 模型 Beam 501B,Hugging Face 提供推理与训练全流程支持》

  2. Hugging Face Blog75

    Reflection 发布开源 MoE 模型 Beam 501B,Hugging Face 提供推理与训练全流程支持

    Reflection 新实验室的首个模型 Beam 在 Hugging Face 开源,为 501B 参数 MoE(每 token 激活 23B),支持 1M token 上下文,采用 Apache 2.0 许可,主打编码与智能体场景。提供 BF16、FP8、NVFP4 三种检查点,transformers、vLLM、SGLang 均已 day-0 支持,并附 LoRA SFT 与 Miles GRPO 训练配方;Hub 上分享用 Beam 构建的项目可竞争 10,000 美元额度。

    推荐理由:官方博客给出架构细节、三档精度的实测跑分和从推理到 SFT、RL 的完整部署与训练配方,便于评估上手成本。

  3. Ollama Blog64

    Reflection 开放权重模型 Beam 上线 Ollama Cloud,限时免费

    Reflection 首个开放权重模型 Beam 于10月16日发布,Ollama 作为 day-zero 合作伙伴限时免费提供,Beam 端点全程零数据保留(ZDR)。Beam 是 MoE 模型,总参数约501B、每 token 激活23B,上下文窗口100万 token,采用 Apache 2.0 许可,面向软件工程、推理和长程 Agent 任务,可通过 ollama run beam:cloud 或 Claude Code、Codex、OpenCode 调用。

    推荐理由:官方公告同时给出与 Kimi K3、GLM 5.3 等模型的 Agent Coding 跑分对照表,读者可直接比较 Beam 在各编码基准上的位置。

  4. Hugging Face · 趋势模型64

    ornith-ai 发布端到端自我改进的 Ornith-1.5-122B 开源模型

    ornith-ai 发布 Ornith-1.5-122B,一个 122B MoE 模型,将 Ornith-1.0 的自我改进循环扩展到联合优化任务生成、scaffold 构建和解题 rollout,通过强化学习持续生成训练任务并改进策略。模型支持 262,144 tokens 上下文(YaRN 缩放后约 1M),可单张 80GB GPU 部署,并提供量化 Mobile 变体。基准中 SWE-bench Verified(non-hack)84.5、TerminalBench 2.1 为 81.2,评测采用防 reward hacking 措施并以 Claude Opus 作为 judge。

    推荐理由:模型卡同时给出多基准成绩与防 reward hacking 的评测细节,读者可对照同参数量级模型比较编码与智能体表现。

  5. AIHOT · 精选63

    Meta 开放权重模型 Muse Spark Open 上架 OpenRouter

    Meta 发布开放权重模型 Muse Spark Open,现已在 OpenRouter 上线,定位为面向编码与智能体工作的美国最强开放权重模型。模型总参数 816B、激活 42B,支持 1M token 上下文窗口,原生多模态,支持图像、视频、音频和 PDF 输入,OpenRouter 定价为输入 $1.25/M、输出 $4.25/M。

    推荐理由:原文给出了参数量、激活规模、上下文窗口和 OpenRouter 定价,读者可以直接评估该开放权重模型的部署成本。

  6. Hugging Face Blog75

    Meta 发布开源权重多模态 MoE 模型 Muse Spark Open,约 816B 参数、42B 激活

    Meta 在 Hugging Face 发布开源权重模型 Muse Spark Open,采用 MoE 架构,总参数约 816B、每 token 激活约 42B,支持文本、图像、音频和视频输入,上下文窗口最高 1M token。模型针对 agentic coding 训练,可读代码库、写代码、调试并调用工具;官方给出 transformers、llama.cpp、vLLM、SGLang、MLX 部署配方,BF16 权重约 1.5 TB,NVFP4 版可跑在单节点 B200 上,并用 TRL 在 64 张 H100 上完成 LoRA 微调演示。

    推荐理由:官方博客给出完整架构参数与多套部署配方,从 llama.cpp 量化到 TRL 微调实测数据都有,可按需选路径复现。

10月15日周四
  1. Reddit · r/LocalLLaMA61

    Zellige AI 发布 Tessera-27B-B-CJK:用压缩 CJK 思考以节省 token 的 Qwen 微调模型

    Zellige AI 开源 Tessera-27B-B-CJK,一个基于 Qwen3.8-27B 的编码 Agent 模型,以混合英文、中文词汇和符号的压缩 CJK 思考来减少 token 消耗,思考过程与输出分离,回答和工具调用保持英文与代码。在 11 个 held-out 编码 Agent 任务上对比未微调基座:每轮思考 token 降至基座的 0.50-0.64 倍,88 轮匹配测试中工具调用 100% 有效、零重复循环,101K-131K token 提示下 6/6 工具调用有效;竞赛数学和难算法代码弱于基座。训练仅用四个短 LoRA 步骤,基于基座自身输出构建。

    推荐理由:原文给出与基座模型同任务对比的思考 token 消耗数据和训练流程,可了解用压缩 CJK 思考省 token 的具体做法。

10月14日周三
  1. Hugging Face · 趋势模型23

    Mistral 发布时间序列基础模型 Timestral-209M

    Mistral 发布零样本预测时间序列基础模型 Timestral,含 5M、28M、123M、209M 四个参数版本,本次为 209M 检查点。模型支持单变量与多变量预测、协变量及 21 个分位数的概率预测,上下文最长 32,768 步、单次前向可预测 1,024 步。Timestral-209M 在 GIFT-Eval、TIME 和 fev-bench 三大基准上取得 SOTA 零样本精度,源码已在 GitHub 开放,采用 Modified MIT 许可证。

  2. Google · AI 博客74

    Google 发布 Gemini 4 Argon,全渠道开放并公布基准表现

    Google 发布 Gemini 4 Argon,面向开发者、企业和消费者全球开放,API 定价为每百万输入 token 2 美元、输出 token 10 美元,支持 1M 输入输出 token 上限。模型在 Vals Index 排名第一,ERQA 具身推理基准得 87%,在 Antigravity 中使智能体代码提交量增加超 35%、回滚减少近三分之一;安全方面对抗性违规减少近 2 倍,Gray Swan 间接提示注入基准下 15 次自适应攻击成功率降至 0.7%。

    推荐理由:官方发布给出工程、科学与机器人三线的实测数据,可用于评估该模型在长程复杂任务上的真实表现。

10月13日周二
  1. Hugging Face · 趋势模型63

    inclusionAI 发布 Ling-3.1-flash 混合推理模型

    inclusionAI 发布 Ling-3.1-flash,一个原生混合推理模型,总参数 560B、每 token 激活 25B,支持 1M token 上下文窗口。模型采用 Hybrid-linear MoE 架构(KDA 与 Gated MLA 混合注意力、512 个专家激活 8 个),在 Terminal-Bench 4.0、SWE-bench Pro、GDPVal-AA V2.1 等 Agent、编码和医疗金融类基准上有提升,并提供了基于开源编码 Agent Pi 构建的 LingCode 评测 harness。官方给出 SGLang(含 MTP 推测解码)和 vLLM 的部署配方,支持 Claude Code 等框架调用。

    推荐理由:官方模型卡同时给出架构规格、多基准评测和 SGLang 与 vLLM 的部署配方,方便读者评估并直接上手这个混合推理 MoE 模型。

10月11日周日
  1. Reddit · r/LocalLLaMA52

    Microsoft 开源 AesCode 8B 与 32B,用 HTML/CSS 生成幻灯片、海报和仪表盘

    Microsoft 发布 AesCode 8B 与 32B 开放权重模型,以 HTML/CSS 生成信息丰富的幻灯片、海报和仪表盘等可视化产物。模型用同一提示词生成的图像作美学参考,同时按提示词保证内容,通过图结构监督和解耦跨模态奖励将语义要求与视觉线索分离;AesCode-32B 从 Qwen3-VL-32B-Instruct 出发,经冷启动 SFT 与七通道奖励的 GDPO 训练,在聚合基准上领先,权重和 GGUF 版本已上架 Hugging Face。

10月10日周六
  1. GitHub · 3D 生成新仓库15

    RiddleForge-GPT 开源:从零训练小型模型生成数学谜题并给出解答

    GitHub 新仓库 RiddleForge-GPT 提供从零训练的完整项目,教一个小型语言模型生成数学谜题并附逐步解答,定位为可部署的课堂或辅导工具。项目包含训练管线、推理感知生成层、多语言界面与可部署 Web 体验,强调谜题数字可验证、难度可调,并支持深浅色模式、可复现的 seed 控制与输出溯源日志。

10月8日周四
  1. Hugging Face · 趋势模型72

    Reflection 开源 Beam 1.0 501B MoE 模型,支持 1M 上下文

    Reflection 发布开放权重模型 Beam 1.0,采用 MoE 架构,总参数 501.3B、激活 23.4B,支持 1M 上下文,以 Apache 2.0 许可提供 BF16、FP8、NVFP4 三种精度。官方称其推理 token 用量约省 3 倍,SWEBench Verified 达 81.6%,AIME 2026 达 97.7%,不禁止蒸馏和微调。

    推荐理由:官方模型卡给出完整基准表和三种量化版本数据,读者可以据此对比 Beam 与其他开放权重模型在编码和推理任务上的表现。

10月7日周三
  1. GitHub · 去对齐工具与仓库47

    CatatMD:把问诊记录转化为可审查临床笔记的开源工具

    CatatMD 是一个面向马来西亚全科医生的开源临床记录工具,将问诊转录转化为结构化 SOAP 笔记,并补充诊断、配药、病假天数等 TPA 审计所需字段。其安全特性是架构性的:确定性规则引擎在模型之前运行红旗检测,模型无法抑制或降级;引用仅限给定语料库中的 guideline ID,缺失字段标记为 NOT_ASSESSED 而非自动填充。医生通过显式审批门完成最终确认,工具不代替医生签署。

10月6日周二
  1. Reddit · r/LocalLLaMA58

    作者用免费 Kaggle T4 微调 Qwen2.5-Coder-1.5B 离线审查 Node.js 代码

    作者 /u/jeeva1398 发布了 npm 包 eventa,基于 Qwen2.5-Coder-1.5B-Instruct 做 QLoRA 微调(Unsloth,r=16,2 epochs,Q4_K_M,986 MB),在免费 Kaggle T4 上训练约 9 分钟,可完全离线审查 Node.js 代码。

    推荐理由:作者公开了数据构成、训练配置和保留集评测数字,还写明了微调版变差的一面,读者可以核对这套小模型微调流程。