新闻、仓库与研究，按时间排列。
/u/smirkishere 基于 Qwen3-TTS 0.6B 微调出 Lure-TTS 和 Lure-Turbo 两个语音模型，支持内联标签、语音方向控制和音色克隆，训练成本不到 $200。Turbo 的 RTF 为 0.14，对比 5B Fish S2 Pro 的 0.195，同时保持相同说话人相似度（ECAPA 0.699）。作者还发布了 Lure-TTS 推理引擎，基于 faster-qwen3-tts（CUDA）、mlx-audio（Mac）和 audio.cpp（CPU），在 4090 上首音频输出 0.17s（参考代码为 10.6s），整体快约 5 倍（RTF 0.53 vs 2.54），支持流式 0.32s 分块、CUDA graphs 和最多 8 路并发。
推荐理由：作者公开了训练流程、RTF 与 ECAPA 对比数据和训练代码，可复现的低成本 TTS 微调路线有参考价值。
Hugging Face 上发布了 zandenAI/GLM-5.2-FP8-Uncensored 的 Colibri int4 独立转换版，供 C 推理引擎 JustVugg/colibri 使用，该引擎将稠密部分保留在内存中并从本地存储流式读取 MoE 专家权重。转换采用行式 int4 量化（嵌入与 LM head 为 int8，norms 与路由权重为 FP32），非标准 Transformers/vLLM/GGUF 格式，须用 Colibri 加载，遵循 MIT 许可。
OpenRouter 宣布月之暗面的 Kimi K3.1 Pro 上线，定位为基于 Kimi K3 后训练、面向长程编码和智能体任务的 1M 上下文多模态开源权重模型。定价为 $2/M input tokens、$10/M output tokens，可在 OpenRouter 直接试用。
推荐理由：正文给出了定价、上下文长度和定位说明，想试用长上下文编码与智能体场景的读者可以直接在 OpenRouter 上体验。
IstroSec 在 Hugging Face 发布 ThinkingCap-Nemotron-3.5-Lightning-30B-A3B-abliterated 的 FP8-DYNAMIC 量化版，体积从 bf16 的 65.8 GB 降到 35.0 GB，KL 0.0134，用 llm-compressor 0.14.0 无校准数据制作。附 NVFP4A16（22.1 GB）和 W4A16（20.5 GB）4-bit 版本，可在 Ampere GPU 上运行。Heretic 评测协议下（关闭思考，100 条有害提示）各版本拒绝数为 20-26/100，差异不显著；原始 ThinkingCap 拒绝 99/100，bf16 去对齐版降至 21/100。
同一新闻，精选展示《IstroSec 发布 ThinkingCap-Nemotron-3.5-Lightning-30B-A3B 去对齐版 W4A16 量化权重》
Reddit 用户 /u/Queasy_Asparagus69 将 Swift-1.5 微调版 Qwen3.8-27B 量化为 hipfire 的 MQ4 格式并附带 MTP 头用于投机解码，目标是让 AMD 用户获得比 llama.cpp 更快的速度。在 RX 7900 XT 20GB、ROCm 7.1 环境下，Prefill 快约 1.4–1.85 倍，16K 上下文约 1100 tok/s（llama.cpp 约 700）；带 MTP 的真实 prompt 解码 36.5 tok/s（τ≈1.94），16–49K 上下文为 52–59 tok/s。六个约 10–20K token 的真实 Rust 编码任务全套耗时 237 秒，对 llama.cpp 的 530 秒，端到端快 2.24 倍。
推荐理由：作者在同一块 7900 XT 上用真实 Rust 任务给出与 llama.cpp 的逐项速度对比，数据足够具体可复现。
KRAFTON 从零训练的 Raon-1 mini preview 发布，为 30B-A4B（28.8B 总参数、每 token 激活 4.3B）MoE 模型，采用 Raon Delta Attention 与 Raon-mHC 的混合注意力架构，原生支持 262,144 token 上下文，以 Apache 2.0 许可开源。主打韩语对话与 Agent 任务，支持 Hermes Agent、Pi 和 OpenCode 工具调用；官方基准显示其在 IFBench、Chatbot Korean 等项目领先对比 MoE 模型。
推荐理由：模型卡给出了与其他 MoE 和稠密模型的基准对比、架构细节和完整本地部署方案，可据此评估其真实定位。
inclusionAI 基于 Ling-3.0-flash 推出医疗专用模型 Ling-3.0-flash-Sante，总参数 124B、每 token 激活 5.1B，采用混合线性 MoE 架构（KDA、gated MLA、稀疏 MoE）。训练上下文扩展至 256K tokens，默认开启思考模式并支持工具调用，面向医疗推理、深度研究与多智能体协作。模型权重已在 Hugging Face 和 ModelScope 开放，官方强调其为研究模型而非医疗器械。
Recursive 在 Hugging Face 开放其面向编码智能体的 MoE 模型 Flint 权重，总参数 39.8B、每 token 激活约 2.5B，Apache 2.0 许可。官方评测中 Terminal-Bench 2.1 得分 54.9%、SWE-bench Pro v2 为 89.7%、SWE-bench Verified 为 74.2%；仓库含 BF16 checkpoint 和 SGLang 部署套件，支持 262,144 token 上下文与 OpenAI 兼容工具调用，单个 B300 或 H200 GPU 即可运行一个副本。
推荐理由：官方模型卡完整给出架构规格、评测设置和单卡部署方法，读者可以据此判断这个编码智能体模型的实际部署成本。
NVIDIA 发布预训练关系型基础模型 Kumo Relational，直接在企业数据库上做预测，无需任务训练、特征工程或表拼接，单次前向传播即可预测流失、需求、欺诈等结果，权重已开放下载。模型通过 in-context learning 读取最多 10,000 个历史样本，在 15 个数据库的 41 个任务上超过监督式关系深度学习和梯度提升树流水线，在 SAP SALT 企业基准上 MRR 领先 AutoGluon 集成 8%，微调后领先 16%；预训练使用基于 PluRel 方法的合成关系数据。模型可在 RelArena-α 榜单上以约 17 秒/千样本的速度达到 Elo 1,842，比最高分条目快约 430 倍。
推荐理由：原文给出了跨 41 个任务的基准对比和架构细节，可以了解结构化数据基础模型这条路线的实际水平与用法。
GLM-Edge 系列端侧模型发布，包含 GLM-Edge-1.5B-Chat、GLM-Edge-4B-Chat 两款对话模型和 GLM-Edge-V-2B、GLM-Edge-V-5B 两款多模态模型，1.5B/2B 面向手机、车机，4B/5B 面向 PC。在高通骁龙 8 Elite 平台上，1.5B 对话与 2B 多模态模型借助 NPU 和混合量化实现每秒 60 tokens 以上解码，配合投机采样峰值超每秒 100 tokens。模型已在 HuggingFace、ModelScope 等平台提供下载，支持 Transformers、vLLM、OpenVINO 推理。
bd4sur 在 GitHub 开源 Transformer 结构的小型语言模型项目 Nano，主要复刻自 Karpathy 的 nanoGPT，提供 Nano-56M、Nano-168M 等模型及 LoRA 插件。其纯 C 语言推理引擎支持 FP32、Q80、Q4K 量化，可离线部署在树莓派、红米 AX5 路由器、ESP32 单片机集群和浏览器 WASM 中，也适配 Qwen2-0.5B 与 Qwen3-0.6B/1.7B/4B。项目同时支持预训练与监督微调，实测单卡 A100 训练 58M 模型 MFU 约 25%。
Blockway 团队发布 Agens Volundr 32B v1，针对社区对 Preview 版的反馈做了修复：SWE-bench 任务重复循环从 36/50 降到 0/50，SWE-bench Verified 50 题子集从 22 提到 27/50，τ²-bench 从 89 到 92/120，SGLang 构建新增 session continuation 使后续轮次快 2.9 倍。
推荐理由：官方逐条列出 Preview 版被社区指出的问题及 v1 修复数据，还给出 16 GB 构建的实测速度与质量下降幅度，便于自行评估取舍。
Unsloth 在 Hugging Face 发布 DeepSeek-V4.1-Flash-1017 的 Unsloth Dynamic 3.0 GGUF 量化版，1-bit 可在 128GB+ 内存设备运行，3-bit 需 256GB，全精度需 320GB。该模型为 DeepSeek-V4.1-Flash 的小幅更新，官方基准显示推理、编码、Agent 和视觉任务均有提升，如 Terminal-Bench 4.0 得分 42.3 对上一版 31.2；模型采用 MIT 许可，支持 1M token 上下文，需使用 llama.cpp PR 或 Unsloth Desktop 运行，prompt 编码由 encoding.py 与 deepseek-recipe 工具库提供。
推荐理由：官方模型卡附上了与 DeepSeek-V4.1-Flash 及多个竞品的具体基准对比，以及量化档位对应的内存需求，可据此评估该版本的实际收益。
NVIDIA 在 Hugging Face 上发布 NVIDIA-Nemotron-Labs-Dory1.0-4B-BF16，总参数 4B，采用 looped（latent-recurrent）normalized-GPT 架构，混合交错滑动窗口注意力（SWA）与全注意力层，通过重复应用共享层块为每个 token 花费更多计算以提升智能。上下文长度最高 256K tokens，精度 BF16，支持英语，采用 OpenMDW License 1.1，可商用或非商用，发布日期为 2026 年 10 月 16 日。
DeepSeek 发布 DeepSeek-V4.1-Flash-1017，是 DeepSeek-V4.1-Flash 的小版本更新，在推理、编码、Agent 任务和视觉基准上大幅提升，同时缩短任务执行时间和输出长度，推进多 Agent harness 下的性能成本帕累托前沿。Terminal-Bench 4.0 达 42.3（上一版 31.2），Automation-Bench 达 60.5。该版本不含 Jinja 聊天模板，改为提供 encoding.py 参考实现和 deepseek-recipe Rust 库工具包，支持 1M tokens 上下文窗口、max_tokens ≥ 256K，推荐 temperature 1.0、top_p 1.0，采用 MIT 许可证。
推荐理由：技术报告给出与 Kim3、GPT-5.6、Opus 5 等的对比数据，并附推荐采样参数与推理工具链，方便本地复现。
MiniMax 发布 MiniMax-M3.1-Flash，一个面向编码、Agent 工作流、computer use 和网络安全的原生多模态 MoE 模型，总参数约 428B、每 token 激活 23B，支持文本、图像、视频输入，上下文窗口最高 1M tokens。相比 M3 的三项主要变化是全程稀疏注意力、量化感知训练，以及用 DSpark 投机解码取代此前的 EAGLE 类 MTP 方案。
推荐理由：官方公布与 DeepSeek、Kimi 等模型在十余个 Agent 与编码基准上的横向对比，并说明评测设置，读者可据此自行评估实际水平。
NVIDIA 在 Hugging Face 发布 4B 参数的循环（latent-recurrent）模型 NVIDIA-Nemotron-Labs-Dory1.0-4B-BF16，采用 normalized-GPT 架构，通过重复应用共享 Recurrent 块（8 层输入、20 层循环、8 层输出）让每个 token 获得更多计算。单一 checkpoint 可设 1-4 个循环，无需重训即可权衡算力与精度，官方推荐默认 2 循环，并支持 last-loop KV caching 使 KV cache 开销保持在一循环大小。
推荐理由：同一个 checkpoint 可调循环次数换精度，作者还给出各 loop 数的实测对比与 KV cache 省显存方案，适合关注小模型推理成本的人。
Reflection 新实验室的首个模型 Beam 在 Hugging Face 开源，为 501B 参数 MoE（每 token 激活 23B），支持 1M token 上下文，采用 Apache 2.0 许可，主打编码与智能体场景。提供 BF16、FP8、NVFP4 三种检查点，transformers、vLLM、SGLang 均已 day-0 支持，并附 LoRA SFT 与 Miles GRPO 训练配方；Hub 上分享用 Beam 构建的项目可竞争 10,000 美元额度。
推荐理由：官方博客给出架构细节、三档精度的实测跑分和从推理到 SFT、RL 的完整部署与训练配方，便于评估上手成本。
Reflection 首个开放权重模型 Beam 于10月16日发布，Ollama 作为 day-zero 合作伙伴限时免费提供，Beam 端点全程零数据保留（ZDR）。Beam 是 MoE 模型，总参数约501B、每 token 激活23B，上下文窗口100万 token，采用 Apache 2.0 许可，面向软件工程、推理和长程 Agent 任务，可通过 ollama run beam:cloud 或 Claude Code、Codex、OpenCode 调用。
推荐理由：官方公告同时给出与 Kimi K3、GLM 5.3 等模型的 Agent Coding 跑分对照表，读者可直接比较 Beam 在各编码基准上的位置。
Orca 发布 27B 视觉语言推理模型 OrcaCyber Nano 1.0，主打防御安全场景，以 GGUF 格式开源，可在本地硬件离线运行，支持逆向工程、漏洞分析、安全代码审查、事件分诊与视觉输入。模型上下文长度 262,144 tokens，内置 MTP 投机解码并支持 DFlash2 draft 文件，主权重 15.70 GB，另有适配 16 GB 显卡的 12.99 GB 版本；基准成绩包括 MATH-500 98.60%、AIME 2025 96.23%、SWE-bench 78.4%，可直接在 llama.cpp 中加载。
ornith-ai 发布 Ornith-1.5-122B，一个 122B MoE 模型，将 Ornith-1.0 的自我改进循环扩展到联合优化任务生成、scaffold 构建和解题 rollout，通过强化学习持续生成训练任务并改进策略。模型支持 262,144 tokens 上下文（YaRN 缩放后约 1M），可单张 80GB GPU 部署，并提供量化 Mobile 变体。基准中 SWE-bench Verified（non-hack）84.5、TerminalBench 2.1 为 81.2，评测采用防 reward hacking 措施并以 Claude Opus 作为 judge。
推荐理由：模型卡同时给出多基准成绩与防 reward hacking 的评测细节，读者可对照同参数量级模型比较编码与智能体表现。
一位 Reddit 用户发帖称，Gemma 4 26B 的思考模式始终无法稳定工作，总会陷入无限思考循环，反复自我怀疑或漫无目的游走。他尝试过加与不加 CoT，设置思考预算也只是在循环中途截断、产出损坏输出。他已花 10 小时求助 Claude 调试，征集真正解决过该问题的经验。
上海AI实验室在 Hugging Face 开源 Sage-A1.5，一个 35B MoE 智能体模型，支持子智能体并行编排、可选验证模式和原生函数调用，原生 256K 上下文可经 YaRN 扩展到 512K。官方评测称其在 XBench-DS-2510（92.0）、IFBench（81.6）等多个基准取得 SOTA，GAIA 达 95.1，高于所对比的 Kimi-K3、GLM-5.3、GPT-5.6-sol 等更大规模模型；相比 A1，SWE-bench Pro 提升 17.6。评测框架已开源，SGLang 和 vLLM 部署命令见模型卡（arXiv: 2610.28578）。
推荐理由：官方模型卡同时给出与 35B 同级和更大模型的横向跑分与完整评测代码，读者可以按同一协议复现或对比。
Telperion 发布 Qwen3.8-27B 的潜在注意力变体 MLA 和 GLA-g2，将 KV cache 压缩 4 倍，可在消费级硬件上实现近 4 倍最大上下文或近 4 倍并发提升。其中 MLA 变体在 SWE-bench Verified（zero-shot、无工具、n>1500）上得分 42.1%，较原版 39.5% 提升 6.58%，推理 token 减少最多 20%；GLA-g2 面向双 GPU 用户，TP=1 和 TP=2 下均实现 4 倍压缩。
推荐理由：原文给出了 KV 压缩倍率、SWE-bench 分数和量化后 top-1 分歧率的具体数据，可用作判断 latent attention 变体实际收益的参考。
OpenBMB 的 MiniCPM-V 4.7 演示显示，35B-A3B MoE 视觉语言模型可在约 3GB 内存的手机上本地运行，可读现实标识、理解复杂文档并做视觉推理。关键在 LES（Lookahead Expert Scheduling），通过预测并预加载专家缓解 MoE 推理瓶颈；团队还发布了面向低资源设备的 1B 版本，以及用于定制微调同时保留通用能力的 SRFT 方法。GitHub：https://github.com/OpenBMB/MiniCPM-V
推荐理由：帖子里讲清了 LES 通过预测并预加载专家来优化 MoE 端侧推理的思路，适合关注多模态模型本地部署的读者。
geezyforeezy 发布 rohit267/Qwen3.8-9B-heretic-uncensored 的 4-bit MLX + MTP（MTPLX）本地版本，面向 Apple Silicon。在 M5 24GB MacBook 上实测解码速度从 21.25 提升到 40.05 tok/s（+88%），投机解码为精确校验故无损；trunk 为有损 4-bit（group size 64，约 5.0 GB），附带原生 MTP sidecar 与 rank-64 C4 LoRA 适配器（加载时合并），depth 2 下草稿接受率约 0.71。
Liquid AI 发布开放权重模型 LFM2.5-24B-A2B，总参数 24B、每 token 仅激活 2B，定位端侧快速、私有的推理智能体。模型在 16 项基准上与参数量约多 50% 的 Qwen3.6-35B-A3B 竞争，LiveClaw 得分 48.09 对 38.19，在 8 项工具与智能体基准中的 5 项领先或持平，并在全部 3 项指令遵循基准领先；M5 Max 上解码 184 tok/s，单张 B300 高并发下超 21K 输出 tok/s。
推荐理由：原文给出了完整的16项基准对比和端侧推理速度数据，可据此评估这款小激活参数MoE在工具调用场景的实际取舍。
LiquidAI 发布 LFM2.5-24B-A2B，是 LFM2.5 家族中最大的最终版本，为 24B 总参数、2.45B 激活参数的 MoE 推理模型，主打端上快速私有 Agent，并放出 GGUF 权重和 playground.liquid.ai 在线演示。官方称其 agentic 与工具调用能力可对标总参数和激活参数多约 50% 的 Qwen3.6-35B-A3B，LiveClaw 得分 48.09 对 38.19；Apple M5 Max 上 184 tok/s，单张 NVIDIA B300 GPU 上最高 21K 输出 tok/s。模型上下文长度 131,072 tokens，支持 16 种语言，训练用量 36 trillion tokens。
webAI 发布 TwIL-LM3-Pro，一个基于 IBM Granite 4.2 3B、专为形式逻辑后训练的 3.66B 模型，做蕴含检查、规则归纳和 Lean 证明批评。模型卡显示 Logic composite 55.4（对比 Granite base 43.1、Qwen3-8B 53.4），BBH logic 95.4%，gpt-oss-120b 仍在规则归纳、蕴含和 Lean 形式化上领先。作者提到其 CPU-only Xeon（15 GiB 内存、无 GPU）上约 10.5 tok/s，比同硬件 Qwen3.8-27B 快 98 倍；Q4_K_M GGUF 为 2.09 GiB，支持 Ollama、LM Studio 和 llama.cpp，温度设为 0 并预留 2048+ token 预算。
inclusionAI 发布 Ling-3.1-flash，一个原生混合推理模型，总参数 560B、每 token 激活 25B，支持 1M token 上下文窗口。模型采用 Hybrid-linear MoE 架构（KDA 与 Gated MLA 混合注意力、512 个专家激活 8 个），在 Terminal-Bench 4.0、SWE-bench Pro、GDPVal-AA V2.1 等 Agent、编码和医疗金融类基准上有提升，并提供了基于开源编码 Agent Pi 构建的 LingCode 评测 harness。官方给出 SGLang（含 MTP 推测解码）和 vLLM 的部署配方，支持 Claude Code 等框架调用。
推荐理由：官方模型卡同时给出架构规格、多基准评测和 SGLang 与 vLLM 的部署配方，方便读者评估并直接上手这个混合推理 MoE 模型。
NVIDIA 在 Hugging Face 发布 Nemotron 3.5 Super VL 的 NVFP4 量化版本，这是一个 120B 总参数、12B 激活参数的视觉语言模型，采用 Mamba-2 与 MoE 混合架构加 C-RADIO 视觉编码器，支持最高 1M token 上下文和原生 MTP 投机解码。量化通过 BF16 模型的量化感知蒸馏完成，模型卡给出了 BF16 与 NVFP4 在 GPQA-Diamond、SWE-bench Verified、Video-MME v2 等数十项基准上的对照结果，并提供 vLLM、SGLang、TensorRT-LLM 在 DGX Spark、H200、H100、GB200 上的部署配置，许可证为 OpenMDW-1.1，可商用。
推荐理由：模型卡同时给出 BF16 与 NVFP4 的完整基准对照和多种硬件部署配置，读者可以据此评估量化损失与所需显存门槛。
作者与 vLLM Semantic Router 团队发布开源多模态决策模型家族 Decision 3.0，基于 Qwen3.5 与 Qwen3.8-27B，权重采用 Apache-2.0 协议，支持文本、图像和视频输入。模型输出 choice、yes/no、score 三种决策类型并给出概率，不生成文本；官方评测显示 27B 以 64.7 text 和 71.6 vision 登顶 Jev Decision Index 两项榜单，9B 版本（d3-flash）超过上一代 27B Decision 2.0，视频为 zero-shot，27B 在 Perception Test 19,140 个验证题上得 77.4。
balkhaisi9 发布 Qwen3.8-27B-Uncensored-Cyber 的 GGUF 量化，用真实 agent 编码会话日志构建重要性矩阵，而非通用英文语料，保留 MTP 头与视觉塔。提供 IQ4_XS（含/不含 MTP，14.96/15.38 GiB）与校准矩阵文件，配对评测显示 IQ4_XS 相对 Q5_K_M 的 PPL 代价为 +0.417%±0.187%，在单卡 V100 上端到端速度为 Q5_K_M 的 1.20x，逐字抄写保真 7/7。该仓库只做量化，无微调或行为改动，上游为 philbert440 的 abliterated 去拒绝模型。
推荐理由：作者给出基于真实agent流量的imatrix校准语料构造方法与配对评测数据，做法可复现，对低比特量化部署有可迁移价值。
一个 27B 级推理模型以三值权重形式发布 llama.cpp 版本，语言模型约 5.9 GB，比 FP16 小约 9.3 倍，保留 98.2% 的 FP16 智能水平。14 项 thinking 模式基准平均 84.78，明显高于 IQ2_XXS 的 72.59，接近体积大三倍的 UD-Q4_K_XL；Apple M5 Max 笔记本上约 47 tok/s，支持 262K token 上下文，提供 PTQ1_0 和 PQ2_0 两种 GGUF 打包。
AutoTrust 发布 autotrust/JEV-35B 的 NVFP4 量化版，将 40 层 × 256 个共 10,240 个路由专家 MLP 量化为 NVIDIA 4 位浮点格式，其余组件保持 bf16 不变。权重下载从 71.9 GB 降至 25.6 GB，vLLM 显存占用 23.3 GiB（−65%），单张 32-48 GB GPU 即可部署；文本 Decision Index 59.75 对比 bf16 的 59.18，五项能力均在 bf16 的 1.2 分以内。该模型基于 Qwen3.5-35B-A3B，与 TypeSafe AI 的闭源托管模型 TypeSafe Jev 1.13 无关联，可通过 vLLM 直接加载。
一位用户自制的 Qwen 3.8 27B Swift 1.5 量化版（8 bit AWQ + GPTQ，W8A16）可在 48GB VRAM 上兼顾速度与质量。用 vLLM 与 MTP=5 在 2 张 RTX 3090 上运行，解码速度接近 100 tok/s，开启 128k context 和 FP16 KV cache 时每卡占用约 21.6GB。作者称其比原版 3.8 27B 更少过度思考，是他认为 48GB VRAM 下的最佳折中方案。
beginning-ai 在 Hugging Face 发布了 orcarouter/Qwen3.8-Flash-Next-Uncensored（去拒绝的 BF16 版）的 NVFP4 混合精度量化，目标是单张 96 GB Blackwell GPU 上用 SGLang 运行。与官方 base 相比源模型改动了 1,658 个张量中的 149 个；checkpoint 占盘 120 GiB（BF16 源为 335 GiB），GPU 上约 78 GB 权重，47.7 GiB 的 n-gram PLE 表可放在主机内存或 NVMe。在 RTX PRO 6000 上单流解码约 265 tok/s（2K 上下文）、约 240 tok/s（200K），KV cache 786K token、上下文 524K。
推荐理由：原文给出了逐张量对比、校准数据与拒绝行为说明，读者能看清这个去对齐量化和官方版在结构与数值上的确切差异。
webAI 于 9 月 30 日发布 TwIL LM3 Pro，这是一个基于 IBM Granite 4.2 3B 的 3.66B 模型，专门针对形式逻辑任务微调，其逻辑综合分达 55.4，优于 Granite 基座的 43.1，并以不到一半的参数量追平 Qwen3-8B 的 53.4。训练采用 LoRA SFT、checkpoint merging 和针对程序化验证器的 RL。Q4_K_M GGUF 仅 2.09 GiB，可在 CPU 或 4 GB VRAM 上运行，支持 Ollama、LM Studio 和 llama.cpp，但许可证为非商业用途。
autotrust 在 Hugging Face 发布 zai-org/GLM-5.3-Flash 的非官方精简版 GLM5.3-Flash-E192-DGX-Spark，通过 NAS 每层保留 288 个路由专家中的 192 个、专家用 NVFP4 量化，每 token 仍激活 18B 参数，权重 124 GiB 为家族最小，单张 180 GB Blackwell GPU 可跑，双 DGX Spark 各承担约 62 GiB。
推荐理由：作者用同一套评测跑出 E192/E224/E256 三档在显存、KV 容量和各基准上的差异，便于按硬件选型。
Reddit 用户 /u/ZestRocket 基于 llmfan46 的 uncensored Heretic 权重，套用 Unsloth 的 UD 配方自行量化出 12/16/24 GB 三个版本，托管在 Hugging Face（codavidgarcia/Qwen3.8-27B-Uncensored-Heretic-MTP-UD-GGUF）。16 GB 的 UD-IQ4_XS 在 RTX 4080 上开 MTP 实测代码 55 tok/s、散文 50 tok/s（关 MTP 仅 29/29），并以 Q8_0 为基准对比了各量化的 KLD 质量。作者还发现 2 个草稿 token 优于 3 个、显存溢出会让速度骤降（开 Chrome 掉到 0.2 tok/s），并附上配方提取与基准测试脚本。
同一新闻，精选展示《Qwen3.8-27B-Uncensored-Heretic GGUF 量化发布，为 12/16/24 GB 显卡保留原生 MTP 头》