跳到正文
今天10月26日周一3 条
  1. Hugging Face · 新模型:uncensored36

    Ornith-1.5-122B-UNCENSORED NVFP4 版本发布,可单卡 RTX 5090 运行 Infernix 格式

    dealignai 在 Hugging Face 发布 Ornith-1.5-122B-UNCENSORED 的 NVFP4-Infernix 格式导出,这是去 refusals 版本的量化模型,基于 Qwen3.5-122B-A10B 架构(48 层、256 个路由专家每层取 top 8),附带 MTP 与 DFlash2 drafter。模型经逐字校验与 checkpoint 无失配,可在单张 RTX 5090(32 GB)上运行,约需 70 GiB 主机内存和 76 GB 磁盘空间,速度仍待优化测定。

  2. GitHub · 3D 生成新仓库26

    Ruzivo:面向绍纳语的开源多模态对话 AI 系统上线 GitHub

    开发者 Recall T. Mabika 在 GitHub 开源 Ruzivo,一个专为绍纳语(ChiShona)打造的端到端多模态对话 AI 系统,采用 MIT 协议。系统在 4-bit 量化的 1.5B 基座模型上用 QLoRA(r=16, α=32)微调,下一 token 预测准确率从 32.1% 提升至 72.1%;RAG 子系统基于 14,201 句课程教材语料实现零幻觉检索。语音方面 WER 从 78.4% 降至 47.9%,并提供 Android App 与响应式 Web 客户端。

  3. Reddit · r/LocalLLaMA22

    CrowdGPT:一个协作训练的大语言模型项目

    开发者推出 CrowdGPT 项目,目标是在不建数据中心、不投入数百万美元的情况下,协作训练一个 10 亿参数的模型。参与者可用自己的 PC 独立训练并将贡献汇入全局模型,项目开源且 100% 公开训练数据和权重。当前模型规模仅作概念验证,作者正在征集反馈以降低参与门槛。

10月24日周六
10月23日周五
  1. Reddit · r/LocalLLaMA35

    用户开源预训练小型 MoE 模型,供社区微调用于特定任务

    一位 Reddit 用户预训练了一个小型 SLM 并开放用于微调:该模型是基于 7.28M backbone 的稀疏 11M MoE(活跃参数 5.52M,top-1 路由、2 专家),在约 5.7B token 上训练,上下文窗口 2048。作者同时开源了整套训练管线,支持 CUDA 并针对 Blackwell 2.0 优化,CPU 完全对等;模型权重与快速上手指南已发布在 Huggingface。

  2. Reddit · r/LocalLLaMA36

    Qwen3-0.6B 被转换为 MoE 版本

    Reddit 用户 Bayliner1980 将 Qwen3-0.6B 转换为 MoE 架构,发布 bayliner1980/Qwen3-0.6B-MoE-A0.5B 及 GGUF 版本,这是其首个 chat 风格转换。因 Qwen3 无 shared expert,作者采用 pseudo-shared expert 部分恢复质量;评测显示 Wiki ppl 从 23.88 升至 26.98,各质量指标均差于原模型,0.6B 规模下 CPU 生成 124 t/s 略快于 dense 的 115 t/s,GPU 生成则略慢。作者建议只想要小模型就直接用 Qwen3-0.6B。

  3. GitHub · 去对齐工具与仓库27

    Candela:在笔记本上微调的开源金融分析 LLM 项目

    Candela 是一个正在开发中的开源金融分析 LLM 项目,基于 Gemma 4 12B 的 4-bit QAT 权重用 QLoRA 微调,可回答美股相关问题,所有数字均来自带日期和来源的工具调用。项目还包含从零训练、35M 参数起步的 Candela Spark 模型族,由 Go 网关提供服务,并通过终端风格 PWA 和 three.js 3D 视图探索模型内部,采用 Apache-2.0 许可证。

  4. Hugging Face Blog44

    OlmoEarth v1.3 发布:为全球提供 SOTA 卫星嵌入模型

    Hugging Face 发布卫星嵌入模型 OlmoEarth v1.3,可读取一整年的 Sentinel-1 雷达与 Sentinel-2、Landsat 多光谱数据,为全球每个 10 米像素生成 128 维嵌入向量,并同步公开全球预计算嵌入及浏览器工具 Embeddings Explorer。在 27 项评测中,其 128 维嵌入在 20 项上领先 AlphaEarth Foundations(AEF)和 Tessera v2,64 维版本在 18 项上领先;模型权重、预训练数据与代码全部开源,复现一次最终训练约需 $2,720 的 H100 租用算力。

10月22日周四
  1. Hugging Face Blog45

    IBM Granite 时间序列模型集成预测

    Hugging Face 发布 Granite Timeseries Ensemble,将四个不同架构的预训练 Granite 时间序列模型(PatchTST-FM-r1、PatchTST-FM-r2、FlowState-r1.1、TTM-r3)组合成一个无需重训练、无需拟合权重的集成预测接口。默认 Probabilistic Ensemble 采用等概率池化,另提供按预测离散度自适应加权的 IQR Ensemble。两个配方在 97 个 GIFT-Eval 数据集配置上评估,配置经宽松许可开源,可通过 granite-tsfm>=0.3.11 从 Hugging Face 加载。

  2. Hugging Face · 趋势模型61

    Recursive 发布开放权重 MoE 编码模型 Flint(39.8B 总参数、约 2.5B 激活)

    Recursive 在 Hugging Face 开放其面向编码智能体的 MoE 模型 Flint 权重,总参数 39.8B、每 token 激活约 2.5B,Apache 2.0 许可。官方评测中 Terminal-Bench 2.1 得分 54.9%、SWE-bench Pro v2 为 89.7%、SWE-bench Verified 为 74.2%;仓库含 BF16 checkpoint 和 SGLang 部署套件,支持 262,144 token 上下文与 OpenAI 兼容工具调用,单个 B300 或 H200 GPU 即可运行一个副本。

    推荐理由:官方模型卡完整给出架构规格、评测设置和单卡部署方法,读者可以据此判断这个编码智能体模型的实际部署成本。

10月20日周二
  1. Hugging Face · 趋势模型69

    Recursive 发布 MoE 编码智能体模型 Flint,unsloth 上线 GGUF 量化版

    Recursive 发布了面向编码智能体的 MoE 语言模型 Flint,总参数 39.8B、每 token 激活约 2.5B,在 Terminal-Bench 2.1 得 54.9%、SWE-bench Pro v2 得 89.7%、SWE-bench Verified 得 74.2%。模型采用 256 路由专家加共享专家、49 层(2 稠密 + 47 MoE)、262,144 token 上下文,以 Apache 2.0 许可发布,附 BF16 检查点、SGLang 服务套件及面向 NVIDIA 和 Apple Silicon 的量化版本,unsloth 提供 GGUF 格式和运行指南。

    推荐理由:官方模型卡给出了架构细节、评测设置和基准分数来源标注,读者可以据此了解这款小激活参数编码智能体模型的实际规格。

  2. GitHub · 去对齐工具与仓库45

    bd4sur/Nano:可部署在树莓派、路由器与浏览器的开源小型语言模型项目

    bd4sur 在 GitHub 开源 Transformer 结构的小型语言模型项目 Nano,主要复刻自 Karpathy 的 nanoGPT,提供 Nano-56M、Nano-168M 等模型及 LoRA 插件。其纯 C 语言推理引擎支持 FP32、Q80、Q4K 量化,可离线部署在树莓派、红米 AX5 路由器、ESP32 单片机集群和浏览器 WASM 中,也适配 Qwen2-0.5B 与 Qwen3-0.6B/1.7B/4B。项目同时支持预训练与监督微调,实测单卡 A100 训练 58M 模型 MFU 约 25%。

10月19日周一
  1. Reddit · r/LocalLLaMA45

    inclusionAI 开源音频语言模型 Ming-3.0-audio-tiny 登陆 Hugging Face

    inclusionAI 在 Hugging Face 发布紧凑型原生音频语言模型 Ming-3.0-audio-tiny,采用 MoE 架构,总参数 9.3B、每次推理激活 2.7B。模型接受音频与文本指令输入,支持中英文语音识别、口语问答、音频理解与音频推理,可选合成语音回复,支持长音频、多说话人和嘈杂环境,采用 MIT 许可证开源。

  2. Reddit · r/LocalLLaMA52

    72小时内四大开放权重模型发布,唯一能塞进24GB的来自NVIDIA

    作者复盘72小时内四个开放权重模型发布:Meta Muse Spark Open(816B总参/42B激活/1M上下文,Artificial Analysis指数39)、NVIDIA Nemotron 3.5 Bolt(74B总参/9B激活,量化感知训练到2 bit,全模型22GB加1.7GB视觉投影器,专为24GB显存设计)、Reflection Beam(501B总参/23B激活,Apache 2.0)、DeepSeek V4.1 Flash 1017(MIT,官方表格DeepSWE 77.0对比Opus 5的74.0,仓库510GB)。作者指出许可证差异比参数量更关键,Meta要求署名且超2000万美元营收需另签协议,而卖24GB显卡的NVIDIA是唯一为24GB显存造模型的实验室。

10月18日周日
  1. Hugging Face · 趋势模型57

    Bria 开源 Fibo 2.0 Dev 统一图像生成与编辑模型

    Bria 在 Hugging Face 发布 8B 参数的 Fibo 2.0 Dev,是首个将图像编辑与文生图统一在一套权重中的 FIBO 下一代模型,在 Artificial Analysis 的开放权重模型中排图像编辑第 1、文生图第 2(2026 年 10 月 20 日)。模型基于 Visual GenAI Language(VGL)结构化 JSON 提示词,支持指令编辑、遮罩编辑、最多 4 张参考图、Inspire 参考生成及 5 种摄影风格模式,架构为 flow-matching DiT,提示词由 Qwen3-VL-4B-Instruct 编码,训练数据全部来自授权数据。

    推荐理由:原文详细给出 VGL 结构化 JSON 提示的生成与编辑用法,以及架构、微调和部署信息,可以照着在自己的流程里复现。

10月16日周五
  1. Reddit · r/LocalLLaMA46

    IBM Granite Switch 4.1 30B/8B 发布:单端点集成对话、决策与语音

    IBM 发布 Granite Switch 4.1 30B,一个模块化 LLM,将 granite-4.1-30b 基座(30B 参数、128K 上下文)与决策、guardian-core 两个 aLoRA 适配器及 granite-speech-5.0-470m-turboctc 语音转文本编码器组合,通过控制 token 按需切换,单端点即可在对话、决策和语音转写间切换。采用 Apache 2.0 许可,支持 Transformers 与 vLLM,另有 8B 版本及无音频的 3B/8B/30B preview 版本。

10月15日周四
  1. Reddit · r/LocalLLaMA51

    Mistral 发布时间序列基础模型 Timestral 并开放权重

    Mistral 发布时间序列基础模型 Timestral,提供 5M、28M、123M 和 209M 四个参数版本,用于零样本预测,权重已在 Hugging Face 开放。209M 版采用带时间注意力和变量注意力的 patch-based transformer,共 24 层,支持单变量与多变量预测、过去型与已知未来协变量,可输入最多 32,768 个历史时间步,单次前向最多预测 1,024 步,输出 21 个分位数的概率预测;源代码已在 GitHub 开放以复现基准结果。

  2. Hugging Face Blog73

    Apertus 1.5 发布:8B 与 70B 开放权重模型新增多模态与思考模式

    Project Apertus 发布 Apertus 1.5,在 8B 和 70B 两代模型基础上以继续预训练方式加入图像与音频理解、可选思考模式,上下文窗口扩至 262,144 tokens(4 倍),权重于 2026 年 7 月 24 日以 Apache 2.0 许可上传 Hugging Face。8B 与 70B 分别新增 4T 和 2T tokens 训练数据,多模态通过 Emu3.5 图像 tokenizer 和 WavTokenizer 以 early-fusion 方式并入词表,架构不变;后训练含 SFT、RLVR、DPO 与 SDPO,并公开中间检查点、数据混合与技术报告(arXiv:2610.15542)。

    推荐理由:官方发布说明完整公开了四阶段预训练、五阶段后训练流程与中间检查点,读者可复现各阶段对模型行为的影响。

  3. Hugging Face · 趋势模型71

    上海AI实验室开源 Sage-A1.5:35B MoE 智能体模型,GAIA 达 95.1

    上海AI实验室在 Hugging Face 开源 Sage-A1.5,一个 35B MoE 智能体模型,支持子智能体并行编排、可选验证模式和原生函数调用,原生 256K 上下文可经 YaRN 扩展到 512K。官方评测称其在 XBench-DS-2510(92.0)、IFBench(81.6)等多个基准取得 SOTA,GAIA 达 95.1,高于所对比的 Kimi-K3、GLM-5.3、GPT-5.6-sol 等更大规模模型;相比 A1,SWE-bench Pro 提升 17.6。评测框架已开源,SGLang 和 vLLM 部署命令见模型卡(arXiv: 2610.28578)。

    推荐理由:官方模型卡同时给出与 35B 同级和更大模型的横向跑分与完整评测代码,读者可以按同一协议复现或对比。

10月14日周三
  1. Hugging Face Blog69

    Liquid AI 开放 LFM2.5-24B-A2B 权重,主打端侧推理智能体

    Liquid AI 发布开放权重模型 LFM2.5-24B-A2B,总参数 24B、每 token 仅激活 2B,定位端侧快速、私有的推理智能体。模型在 16 项基准上与参数量约多 50% 的 Qwen3.6-35B-A3B 竞争,LiveClaw 得分 48.09 对 38.19,在 8 项工具与智能体基准中的 5 项领先或持平,并在全部 3 项指令遵循基准领先;M5 Max 上解码 184 tok/s,单张 B300 高并发下超 21K 输出 tok/s。

    推荐理由:原文给出了完整的16项基准对比和端侧推理速度数据,可据此评估这款小激活参数MoE在工具调用场景的实际取舍。

10月13日周二
  1. Reddit · r/LocalLLaMA42

    后续:将稠密模型转换为 Mixture-of-Experts,新模型 Qwen2.5-1.5B-MoE-A0.9B 首次在 GPU 上也明显提速

    用户 Bayliner1980 继续稠密模型转 MoE 的转换工作,发布 Qwen2.5-1.5B-MoE-A0.9B,并放出 0.5B 与 1.5B 两款 GGUF 版本。Q4_K_M 下 GPU 生成速度提升 32%、CPU 提升 41%,是首次在 GPU 上也明显快于稠密模型的转换;代价是 WikiText-2 困惑度升高约 41%,ARC 下降最多,GGUF 体积也更大(1.1 GB vs 0.9 GB)。作者称此为概念验证,该方法在 MLP 占比更大的大模型上应更划算。

  2. Hugging Face · 趋势模型63

    inclusionAI 发布 Ling-3.1-flash 混合推理模型

    inclusionAI 发布 Ling-3.1-flash,一个原生混合推理模型,总参数 560B、每 token 激活 25B,支持 1M token 上下文窗口。模型采用 Hybrid-linear MoE 架构(KDA 与 Gated MLA 混合注意力、512 个专家激活 8 个),在 Terminal-Bench 4.0、SWE-bench Pro、GDPVal-AA V2.1 等 Agent、编码和医疗金融类基准上有提升,并提供了基于开源编码 Agent Pi 构建的 LingCode 评测 harness。官方给出 SGLang(含 MTP 推测解码)和 vLLM 的部署配方,支持 Claude Code 等框架调用。

    推荐理由:官方模型卡同时给出架构规格、多基准评测和 SGLang 与 vLLM 的部署配方,方便读者评估并直接上手这个混合推理 MoE 模型。

  3. GitHub · 3D 生成新仓库50

    SemBridge 开源:语义 token 锚定的连续潜变量自回归语音生成模型

    ASLP-lab 发布 SemBridge,通过共享语义 tokenizer 同时锚定声学潜变量与自回归语言模型状态,统一支持 TTS、按音符条件的歌声合成及语音与歌唱混合生成。2026 年 10 月已公开推理代码与模型检查点,代码采用 Apache-2.0 许可,输出为 44.1 kHz 单声道 WAV,默认 --max-patches 500 限制生成约 40 秒。

  4. GitHub · 3D 生成新仓库62

    PlantGen 开源:用 L-system 从开放数据生成植物学准确的 3D 植物模型

    GitHub 新仓库 jferments/plantgen 发布,以开放数据驱动的 L-system 程序在本地确定性生长出植物学准确的 3D 植物模型,内置 152 个物种、62 个科和 15 个生长程序。植物不存储不分发,同一物种和种子在每台机器上逐位一致;编译器据光照、空间与邻居生成四级 LOD 网格与 impostor,可经 plantc export 输出 glTF(.glb)供游戏引擎和 Blender 直接打开。生成器仅依赖 libm、png、serde、serde_json 和 sha2,完全离线且不用 AI;项目不接受外部 issue 和 PR 以防 prompt injection,代码采用 MIT 许可。

    推荐理由:原文详述了以物种数据加 L-system 程序在本地确定性生成 3D 植物的完整方法,可离线复现且不依赖网络或 AI。

10月11日周日
  1. Reddit · r/LocalLLaMA38

    网友从零训练 102M 递归 BitNet-v2 模型:64K 上下文,仅用不到 5B tokens

    Reddit r/LocalLLaMA 用户从零训练并开源了 Recursive BitNet N-Gram 102M 模型,结合三值权重、共享 Transformer 层和哈希 n-gram 嵌入,训练总成本约 100 欧元,处理不到 5B tokens,支持 65,536-token 上下文。模型含 102.28M 独特参数,六个 Transformer 块共享权重运行两次;lm-eval zero-shot 基准平均分 40.59%,ARC-Easy 为 40.11%。权重、推理代码和评测结果已在 Hugging Face 发布,含 409.14MB FP32 主权重和 124.24MB 打包导出。

  2. Hugging Face · 趋势模型56

    OpenMOSS 发布 MOSS-Image-SFT 文生图模型

    OpenMOSS 发布 MOSS-Image 系列的监督微调文生图模型 MOSS-Image-SFT,由 MOSS-Image-Base 微调而来,示例显示 SFT 版文本分组更清晰、白板排版更有序。模型支持自然语言提示词、标签序列和 JSON Layout 控制文字位置与物体排布,权重与推理代码以 Apache 2.0 许可开源,VAE 采用 FLUX.2 small decoder,并提供 ComfyUI 插件和 Prompt Enhancer skill。

    推荐理由:官方给出了从 Base 到 SFT 的同图对比和完整推理配置,读者可以直接复现文本排版更整齐的文生图效果。

  3. Hugging Face · 新模型:abliterated27

    hotdogs/jev-Ternary-Bonsai-2-27B-Abliterated-PTQ1_0 上架 Hugging Face,附 llama.cpp 等多种本地运行指南

    hotdogs 发布 jev-Ternary-Bonsai-2-27B-Abliterated-PTQ1_0 的 TQ1_0 量化版本。用户可通过 llama.cpp 在本地启动 OpenAI 兼容服务器或终端直接推理,也支持 Ollama、Docker Model Runner、LM Studio、Jan 等多种工具,并可在 Pi、Hermes Agent、OpenClaw 等 Agent 中配置调用。

  4. Reddit · r/LocalLLaMA32

    将稠密模型转换为 MoE:Qwen2.5-0.5B 与 SmolLM2-360M 的转换实验

    Reddit r/LocalLLaMA 用户 Bayliner1980 将 Qwen2.5-0.5B 和 SmolLM2-360M 两个稠密模型转换为稀疏 Mixture-of-Experts 模型,无需从头预训练,转换结果已发布在 HuggingFace。两个 MoE 模型均含 32 个专家、top-8 路由加共享专家,每 token 的 MLP 计算量约为原来的 40% 和 44%,但在 WikiText-2/C4 困惑度和五项评测的平均准确率上均低于原始稠密模型。作者在 RTX 4060 (8gb) 上完成实验,后续计划转换更大的模型并测试更细的专家布局。

10月10日周六
  1. Reddit · r/LocalLLaMA27

    开源物理决策模型 Vega:800M 参数、73k 上下文、支持图像

    Laya 开发者开源了名为 Vega 的 physics-based typed decision model,参数量 800M(另有 4B 版本),支持 73k token 上下文和图像输入,单次推理在多项 JEV benchmark 上超越前者。模型采用引擎加适配器实现的 Test-Time Training 架构,将观测、问题与候选结果投影为向量,用「能量球落入山谷」的方式选出答案。博客、GitHub 和 HuggingFace 模型卡与 Space 均已发布。

  2. GitHub · 3D 生成新仓库21

    Stable Diffusion 1.8.0 开源发布:Cognitive Diffusion Engine

    GitHub 上发布 Stable Diffusion 1.8.0(Cognitive Diffusion Engine),采用 tri-bridge 注意力机制同时融合文本嵌入、视觉先验和风格条件向量,并引入基于熵测量的 Adaptive Step Scheduler,自校正 latent decoder 使伪影减少 43%。macOS 的 MPS 后端现达到同等硬件上 CUDA 性能的 92%(1.7.0 为 68%),Linux 上 ROCm 已完全集成,无需单独安装 AMD 驱动。