在本地运行 Qwen 3.8 Flash Next 的体验
一位 Reddit 用户在 32GB 内存加 RTX 3090(24GB 显存)的游戏电脑上,通过 strata 和 hermes 运行 Qwen 3.8 Flash Next,一夜生成了一个加拿大 EV 比价网站,含 CAD 计价与省级补贴信息。Claude Opus 5.5 随后修复了部分问题并核查事实,发现省级补贴计划存在错误。作者认为首版已相当接近一次成型。
新闻、仓库与研究,按时间排列。
一位 Reddit 用户在 32GB 内存加 RTX 3090(24GB 显存)的游戏电脑上,通过 strata 和 hermes 运行 Qwen 3.8 Flash Next,一夜生成了一个加拿大 EV 比价网站,含 CAD 计价与省级补贴信息。Claude Opus 5.5 随后修复了部分问题并核查事实,发现省级补贴计划存在错误。作者认为首版已相当接近一次成型。
南北阁团队发布 Nanbeige4.3-33B,定位为 Nanbeige4.3 系列的教师模型,用于后续向更小模型(如 Nanbeige4.3-3B)蒸馏智能体能力。官方基准显示其在约 30B 参数开源模型中于 Terminal-Bench 2.1、DeepSWE、Automation Bench 等多数智能体编码与协作任务上领先,并说明在 35 个职业的 JobBench 评测中多数占优。模型支持 512K 上下文,提供 enable_thinking 与 preserve_thinking 等可配置聊天模板,可用 Transformers、SGLang 或 vLLM 部署。
推荐理由:原文给出与同规模开源模型的完整基准对比和推理部署配置,可借此了解 30B 级开源智能体模型的实际水平。
OpenRouter 宣布月之暗面的 Kimi K3.1 Pro 上线,定位为基于 Kimi K3 后训练、面向长程编码和智能体任务的 1M 上下文多模态开源权重模型。定价为 $2/M input tokens、$10/M output tokens,可在 OpenRouter 直接试用。
推荐理由:正文给出了定价、上下文长度和定位说明,想试用长上下文编码与智能体场景的读者可以直接在 OpenRouter 上体验。
KRAFTON 从零训练的 Raon-1 mini preview 发布,为 30B-A4B(28.8B 总参数、每 token 激活 4.3B)MoE 模型,采用 Raon Delta Attention 与 Raon-mHC 的混合注意力架构,原生支持 262,144 token 上下文,以 Apache 2.0 许可开源。主打韩语对话与 Agent 任务,支持 Hermes Agent、Pi 和 OpenCode 工具调用;官方基准显示其在 IFBench、Chatbot Korean 等项目领先对比 MoE 模型。
推荐理由:模型卡给出了与其他 MoE 和稠密模型的基准对比、架构细节和完整本地部署方案,可据此评估其真实定位。
Reddit 用户 /u/returnity 介绍 Recursive Flint 编码智能体模型,称其为 40B 参数、2.5B 激活的模型,在 TerminalBench 2.1 和 SWE-bench Pro v2 上大幅超越 Qwen3.6-35B-A3B,其余所选基准持平或更好。模型采用 3:1 SWA 与全注意力比例,支持 262k 上下文,已提供 Recursive 博客、WIRED 报道、llama.cpp PR 和 Unsloth GGUFs。作者正在下载,几天后公布实测基准;更新称初步反馈显示 Ornith-1.5 仍是该级别标准,情况不如预期乐观。
Recursive 在 Hugging Face 开放其面向编码智能体的 MoE 模型 Flint 权重,总参数 39.8B、每 token 激活约 2.5B,Apache 2.0 许可。官方评测中 Terminal-Bench 2.1 得分 54.9%、SWE-bench Pro v2 为 89.7%、SWE-bench Verified 为 74.2%;仓库含 BF16 checkpoint 和 SGLang 部署套件,支持 262,144 token 上下文与 OpenAI 兼容工具调用,单个 B300 或 H200 GPU 即可运行一个副本。
推荐理由:官方模型卡完整给出架构规格、评测设置和单卡部署方法,读者可以据此判断这个编码智能体模型的实际部署成本。
NVIDIA 发布预训练关系型基础模型 Kumo Relational,直接在企业数据库上做预测,无需任务训练、特征工程或表拼接,单次前向传播即可预测流失、需求、欺诈等结果,权重已开放下载。模型通过 in-context learning 读取最多 10,000 个历史样本,在 15 个数据库的 41 个任务上超过监督式关系深度学习和梯度提升树流水线,在 SAP SALT 企业基准上 MRR 领先 AutoGluon 集成 8%,微调后领先 16%;预训练使用基于 PluRel 方法的合成关系数据。模型可在 RelArena-α 榜单上以约 17 秒/千样本的速度达到 Elo 1,842,比最高分条目快约 430 倍。
推荐理由:原文给出了跨 41 个任务的基准对比和架构细节,可以了解结构化数据基础模型这条路线的实际水平与用法。
Meta 的开源权重模型 Muse Spark Open 在 Fireworks 上线,提供 Day-0 serverless 调用。该模型为 816B 参数 MoE 架构,每 token 激活 42B 参数,上下文窗口 1M token,主打长上下文编码与 Agent 工作。
推荐理由:给出了参数规模、激活参数和上下文窗口等关键配置,读者可据此判断该模型是否适合长上下文和 Agent 场景。
Spark-X2.6-4B 发布,架构与 Spark-X2.5-4B 完全相同,能力提升来自改进的后训练,在编程、智能体、长上下文、多语言和推理等方面显著增强。该模型在同等规模开源模型中达到 SOTA,可匹敌约 9B 参数的模型,并提供 none、low、high 三档可配置思考预算以平衡推理质量、延迟与推理成本,面向端侧部署。
Recursive 发布了面向编码智能体的 MoE 语言模型 Flint,总参数 39.8B、每 token 激活约 2.5B,在 Terminal-Bench 2.1 得 54.9%、SWE-bench Pro v2 得 89.7%、SWE-bench Verified 得 74.2%。模型采用 256 路由专家加共享专家、49 层(2 稠密 + 47 MoE)、262,144 token 上下文,以 Apache 2.0 许可发布,附 BF16 检查点、SGLang 服务套件及面向 NVIDIA 和 Apple Silicon 的量化版本,unsloth 提供 GGUF 格式和运行指南。
推荐理由:官方模型卡给出了架构细节、评测设置和基准分数来源标注,读者可以据此了解这款小激活参数编码智能体模型的实际规格。
XHToken 在 Spark-X2.5-4B 基础上推出端侧部署模型 Spark-X2.6-4B,架构不变,靠改进后训练提升编码、Agent、长上下文、多语言与推理能力,在同级开源模型中达到 SOTA,可匹敌或超越约 9B 参数的模型。模型提供 none、low、high 三档可控思考预算,支持最大 1,048,576 token 上下文,推理效率不低于 Qwen3.5-4B 和 Gemma-E4B,并可在 SGLang、vLLM 上部署。
XHToken 发布 Spark-X2.6-4B,是基于 Spark-X2.5-4B 的端侧通用语言模型,架构不变,通过改进后训练提升编码、Agent、长上下文、多语言和推理能力。该模型在同级开源模型中达到 SOTA,可匹敌约 9B 参数模型,支持 none/low/high 三档可控思考预算,最大上下文长度 1,048,576 tokens。模型权重已在 Hugging Face 开源,支持 Transformers 和 SGLang(含 NVIDIA GPU 与 Ascend NPU)推理部署。
XtrComSu 发布 XT-Luna 1B v1,一个基于 MiniCPM5 1B 微调、专注智能体与编程任务的模型。作者将其与官方 MiniCPM5 1B SFT 及 Qwen 3.5 4B 的 reasoning benchmark 进行了对比,结果截图见模型卡。建议开启 thinking mode 运行,作者欢迎反馈与 bug 报告。
DeepSeek 发布 DeepSeek-V4.1-Flash-1017,是 DeepSeek-V4.1-Flash 的小版本更新,在推理、编码、Agent 任务和视觉基准上大幅提升,同时缩短任务执行时间和输出长度,推进多 Agent harness 下的性能成本帕累托前沿。Terminal-Bench 4.0 达 42.3(上一版 31.2),Automation-Bench 达 60.5。该版本不含 Jinja 聊天模板,改为提供 encoding.py 参考实现和 deepseek-recipe Rust 库工具包,支持 1M tokens 上下文窗口、max_tokens ≥ 256K,推荐 temperature 1.0、top_p 1.0,采用 MIT 许可证。
推荐理由:技术报告给出与 Kim3、GPT-5.6、Opus 5 等的对比数据,并附推荐采样参数与推理工具链,方便本地复现。
MiniMax 发布 MiniMax-M3.1-Flash,一个面向编码、Agent 工作流、computer use 和网络安全的原生多模态 MoE 模型,总参数约 428B、每 token 激活 23B,支持文本、图像、视频输入,上下文窗口最高 1M tokens。相比 M3 的三项主要变化是全程稀疏注意力、量化感知训练,以及用 DSpark 投机解码取代此前的 EAGLE 类 MTP 方案。
推荐理由:官方公布与 DeepSeek、Kimi 等模型在十余个 Agent 与编码基准上的横向对比,并说明评测设置,读者可据此自行评估实际水平。
Reflection 在 Hugging Face 发布开源模型 Beam,采用 MoE 架构,总参数 501.3B、激活 23.4B,支持 1M token 上下文,提供 BF16、FP8 和 NVFP4 三种数值格式。官方称其推理 token 用量约为同类领先开源模型的 1/3,并给出 SWE Bench Pro v1 66.1%、AIME 2026 97.7%、GPQA Diamond 90.6% 等基准成绩,主打 agentic 工具调用、编码与推理能力。
同一新闻,精选展示《Reflection 发布开源 MoE 模型 Beam 501B,Hugging Face 提供推理与训练全流程支持》
Reflection 新实验室的首个模型 Beam 在 Hugging Face 开源,为 501B 参数 MoE(每 token 激活 23B),支持 1M token 上下文,采用 Apache 2.0 许可,主打编码与智能体场景。提供 BF16、FP8、NVFP4 三种检查点,transformers、vLLM、SGLang 均已 day-0 支持,并附 LoRA SFT 与 Miles GRPO 训练配方;Hub 上分享用 Beam 构建的项目可竞争 10,000 美元额度。
推荐理由:官方博客给出架构细节、三档精度的实测跑分和从推理到 SFT、RL 的完整部署与训练配方,便于评估上手成本。
Reflection 首个开放权重模型 Beam 于10月16日发布,Ollama 作为 day-zero 合作伙伴限时免费提供,Beam 端点全程零数据保留(ZDR)。Beam 是 MoE 模型,总参数约501B、每 token 激活23B,上下文窗口100万 token,采用 Apache 2.0 许可,面向软件工程、推理和长程 Agent 任务,可通过 ollama run beam:cloud 或 Claude Code、Codex、OpenCode 调用。
推荐理由:官方公告同时给出与 Kimi K3、GLM 5.3 等模型的 Agent Coding 跑分对照表,读者可直接比较 Beam 在各编码基准上的位置。
ornith-ai 发布 Ornith-1.5-122B,一个 122B MoE 模型,将 Ornith-1.0 的自我改进循环扩展到联合优化任务生成、scaffold 构建和解题 rollout,通过强化学习持续生成训练任务并改进策略。模型支持 262,144 tokens 上下文(YaRN 缩放后约 1M),可单张 80GB GPU 部署,并提供量化 Mobile 变体。基准中 SWE-bench Verified(non-hack)84.5、TerminalBench 2.1 为 81.2,评测采用防 reward hacking 措施并以 Claude Opus 作为 judge。
推荐理由:模型卡同时给出多基准成绩与防 reward hacking 的评测细节,读者可对照同参数量级模型比较编码与智能体表现。
Meta 发布开放权重模型 Muse Spark Open,现已在 OpenRouter 上线,定位为面向编码与智能体工作的美国最强开放权重模型。模型总参数 816B、激活 42B,支持 1M token 上下文窗口,原生多模态,支持图像、视频、音频和 PDF 输入,OpenRouter 定价为输入 $1.25/M、输出 $4.25/M。
推荐理由:原文给出了参数量、激活规模、上下文窗口和 OpenRouter 定价,读者可以直接评估该开放权重模型的部署成本。
Meta 在 Hugging Face 发布开源权重模型 Muse Spark Open,采用 MoE 架构,总参数约 816B、每 token 激活约 42B,支持文本、图像、音频和视频输入,上下文窗口最高 1M token。模型针对 agentic coding 训练,可读代码库、写代码、调试并调用工具;官方给出 transformers、llama.cpp、vLLM、SGLang、MLX 部署配方,BF16 权重约 1.5 TB,NVFP4 版可跑在单节点 B200 上,并用 TRL 在 64 张 H100 上完成 LoRA 微调演示。
推荐理由:官方博客给出完整架构参数与多套部署配方,从 llama.cpp 量化到 TRL 微调实测数据都有,可按需选路径复现。
Meta 发布开放权重模型 Muse Spark Open,定位为编码与 Agent 任务,支持长程任务、复杂软件工程和多步推理。
同一新闻,精选展示《Meta 发布开源权重多模态 MoE 模型 Muse Spark Open,约 816B 参数、42B 激活》
Reddit r/LocalLLaMA 帖子称 Microsoft AI 开发了 MAI Code 1.1 Flash 的本地版本,这是一款针对编码优化的 MoE 模型,总参数 137B、激活参数 6.8B。帖子未披露发布时间与开源细节。
Zellige AI 开源 Tessera-27B-B-CJK,一个基于 Qwen3.8-27B 的编码 Agent 模型,以混合英文、中文词汇和符号的压缩 CJK 思考来减少 token 消耗,思考过程与输出分离,回答和工具调用保持英文与代码。在 11 个 held-out 编码 Agent 任务上对比未微调基座:每轮思考 token 降至基座的 0.50-0.64 倍,88 轮匹配测试中工具调用 100% 有效、零重复循环,101K-131K token 提示下 6/6 工具调用有效;竞赛数学和难算法代码弱于基座。训练仅用四个短 LoRA 步骤,基于基座自身输出构建。
推荐理由:原文给出与基座模型同任务对比的思考 token 消耗数据和训练流程,可了解用压缩 CJK 思考省 token 的具体做法。
Reddit r/LocalLLaMA 用户实测 JetBrains Mellum 2.1 12B A2.5B MoE,认为其表现很好。该模型在 m4 16 上全 130k 上下文可达 60 tps,Q8 量化在 16 GB GPU 上可跑,9070xt 上实测 140TPS;作者判断 8GB、12GB 显卡有望跑到 30-40 tps,且其代码能力可用,但建议搭配更大模型做任务规划。
Mistral 发布零样本预测时间序列基础模型 Timestral,含 5M、28M、123M、209M 四个参数版本,本次为 209M 检查点。模型支持单变量与多变量预测、协变量及 21 个分位数的概率预测,上下文最长 32,768 步、单次前向可预测 1,024 步。Timestral-209M 在 GIFT-Eval、TIME 和 fev-bench 三大基准上取得 SOTA 零样本精度,源码已在 GitHub 开放,采用 Modified MIT 许可证。
作者在 arXiv 发布技术报告,宣布从零训练出 2.5B 参数的泰米尔语-英语模型 Agaram 2.5B 并开放权重。
推荐理由:作者公开了从训练配置到评测弱点的完整细节,包括约 13300 美元成本和知识能力的短板,可作为小语种模型从零训练的参照。
Google 发布 Gemini 4 Argon,面向开发者、企业和消费者全球开放,API 定价为每百万输入 token 2 美元、输出 token 10 美元,支持 1M 输入输出 token 上限。模型在 Vals Index 排名第一,ERQA 具身推理基准得 87%,在 Antigravity 中使智能体代码提交量增加超 35%、回滚减少近三分之一;安全方面对抗性违规减少近 2 倍,Gray Swan 间接提示注入基准下 15 次自适应攻击成功率降至 0.7%。
推荐理由:官方发布给出工程、科学与机器人三线的实测数据,可用于评估该模型在长程复杂任务上的真实表现。
inclusionAI 发布 Ling-3.1-flash,一个原生混合推理模型,总参数 560B、每 token 激活 25B,支持 1M token 上下文窗口。模型采用 Hybrid-linear MoE 架构(KDA 与 Gated MLA 混合注意力、512 个专家激活 8 个),在 Terminal-Bench 4.0、SWE-bench Pro、GDPVal-AA V2.1 等 Agent、编码和医疗金融类基准上有提升,并提供了基于开源编码 Agent Pi 构建的 LingCode 评测 harness。官方给出 SGLang(含 MTP 推测解码)和 vLLM 的部署配方,支持 Claude Code 等框架调用。
推荐理由:官方模型卡同时给出架构规格、多基准评测和 SGLang 与 vLLM 的部署配方,方便读者评估并直接上手这个混合推理 MoE 模型。
开发者 Brandon Thomas 因不满 Adobe 订阅违约金,用 Claude Opus 5.5 以 Rust 逆向重写 Photoshop 等 7 款 Adobe 软件并开源,其中 PS 项目不到 10 天获 4.6 万 Star,整个 REA 项目 Star 数逼近 10 万。
Microsoft 发布 AesCode 8B 与 32B 开放权重模型,以 HTML/CSS 生成信息丰富的幻灯片、海报和仪表盘等可视化产物。模型用同一提示词生成的图像作美学参考,同时按提示词保证内容,通过图结构监督和解耦跨模态奖励将语义要求与视觉线索分离;AesCode-32B 从 Qwen3-VL-32B-Instruct 出发,经冷启动 SFT 与七通道奖励的 GDPO 训练,在聚合基准上领先,权重和 GGUF 版本已上架 Hugging Face。
GitHub 新仓库 MiniCodeGPT 是一个用 PyTorch 和 Transformer 架构构建的轻量级自定义 GPT 风格 Python 代码生成模型。它使用自定义 tokenizer 和 Python 代码数据集,可根据用户提示词生成代码,并配备 FastAPI 后端和 React 前端提供交互式网页体验。
ImposterOnline 在 Hugging Face 上发布无审查编码助手模型 Pyrz-8B-Instruct-Uncensored。HumanEval 评测中该模型 pass@1 达 52.4%。GGUF 量化版本可从 ImposterOnline/Pyruz-8B-Instruct-Uncensored-GGUF 下载。
GitHub 新仓库 RiddleForge-GPT 提供从零训练的完整项目,教一个小型语言模型生成数学谜题并附逐步解答,定位为可部署的课堂或辅导工具。项目包含训练管线、推理感知生成层、多语言界面与可部署 Web 体验,强调谜题数字可验证、难度可调,并支持深浅色模式、可复现的 seed 控制与输出溯源日志。
Reflection 发布开放权重模型 Beam 1.0,采用 MoE 架构,总参数 501.3B、激活 23.4B,支持 1M 上下文,以 Apache 2.0 许可提供 BF16、FP8、NVFP4 三种精度。官方称其推理 token 用量约省 3 倍,SWEBench Verified 达 81.6%,AIME 2026 达 97.7%,不禁止蒸馏和微调。
推荐理由:官方模型卡给出完整基准表和三种量化版本数据,读者可以据此对比 Beam 与其他开放权重模型在编码和推理任务上的表现。
CatatMD 是一个面向马来西亚全科医生的开源临床记录工具,将问诊转录转化为结构化 SOAP 笔记,并补充诊断、配药、病假天数等 TPA 审计所需字段。其安全特性是架构性的:确定性规则引擎在模型之前运行红旗检测,模型无法抑制或降级;引用仅限给定语料库中的 guideline ID,缺失字段标记为 NOT_ASSESSED 而非自动填充。医生通过显式审批门完成最终确认,工具不代替医生签署。
作者 /u/jeeva1398 发布了 npm 包 eventa,基于 Qwen2.5-Coder-1.5B-Instruct 做 QLoRA 微调(Unsloth,r=16,2 epochs,Q4_K_M,986 MB),在免费 Kaggle T4 上训练约 9 分钟,可完全离线审查 Node.js 代码。
推荐理由:作者公开了数据构成、训练配置和保留集评测数字,还写明了微调版变差的一面,读者可以核对这套小模型微调流程。
Reflection AI(前 DeepMind 成员创立)发布首个开源模型 Beam,主打编程与智能体能力,称效率比其他开源模型高 3-4 倍,定位为非中国系替代选择。公司估值 250 亿美元,并已在训练下一个模型。
Rust ScriptBots 是对 Andrej Karpathy 经典智能体进化模拟器 ScriptBots 的确定性 Rust 重制,提供 GPU 加速的 GPUI 界面、可插拔的 Brain 实现(MLP、DWRAON、Assembly 及可选 NeuroFlow)和基于 FrankenSQLite 的分析存储。
animath 是一个开源项目,按需为新加坡小学、中学到初院课程生成数学与科学概念动画:学生选择级别、科目、主题或直接输入问题,LLM 生成描述场景与旁白的 JSON 动画 spec,浏览器内 SVG 播放器直接渲染,无需视频文件。