按兴趣浏览，循来源深入。
3hs4n 发布 Qwen3.8-Flash-Next-Uncensored 的 MLX 优化量化版，目标模型采用 affine 2-bit/group-128 重建，搭配 Inco AI 的 BF16 DFlash2 草稿模型，完整下载 74.048 GB。在 M1 Max 64 GiB 实测中，代码与数学 warm 解码达 37.62 和 33.69 tokens/s，约为基线的 1.70× 和 1.56×，文本仅 1.048×；固定 50 题 GSM8K 子集全部答对且与原生参考一致，进程峰值内存 42.12 GiB。
推荐理由：作者实测了 M1 Max 上代码与数学解码的加速倍数和内存峰值，并给出 32/48/64 GiB 的可行性判断，便于评估本地部署。
ISTA-DASLab 发布 DeepSeek-V4.1-Flash-1017 的 GGUF 量化版本，用 GSQ 加 RCO 的梯度搜索按张量敏感度分配量化类型，提供 IQ1_M、IQ2_XXS、IQ2_XS 三档。IQ2_XXS（2.00 bpw）在 AIME25、GPQA-Diamond、LiveCodeBench v6 上完全追平 FP8/FP4 基模型，任务均值恢复 100.0%；IQ1_M 保留 98.7%。配合 Strata 引擎可在单张 12 GB VRAM 的 GPU 上运行；llama.cpp 截至 2026 年 10 月 23 日尚不支持该模型。
推荐理由：原文给出了各量化的基准恢复率和完整方法与分配文件，读者可以据此判断低比特量化到底损失了多少能力。
staccs 发布了 106.8 GB 单文件 GGUF，对 dealignai 制作的 DeepSeek-V4.1-Flash-1017 abliterated（UNCENSORED-FP8）版本重新量化，采用 lecore 激活校准的 11-bit 向量量化处理路由专家（2048 码本条目、65,536 校准 token，1.39 bpw，cosine 0.909），注意力骨架用 q4_K，共享专家 VQ 11-bit。评测以未量化源模型为教师，WikiText-2 上 2k/16k 上下文困惑度 2.817/2.936，top-1 一致率 80.2%/78.6%，优于未校准的 vq10sh12 版本（PPL 3.615、top-1 74.5%）。
推荐理由：作者用未量化源模型给出困惑度、KL 散度和 top-1 一致率对照，可据此评估这套 11-bit VQ 量化的损耗。
yfHHHE 发布 emoji-native-lm，基于 Qwen3-1.7B 用 LoRA 做 SFT 加 DPO 微调，对任何输入只以 1-3 个 emoji 回复。训练数据约 12k 条中英文聊天消息，由 Claude Opus 生成并回复，覆盖 1,915 种 emoji；666 条评测提示下经 wrapper 的回复 100% 合规，首轮采样合规率 98.9%，而基座 Qwen3-1.7B 为 0%。仓库提供 Ollama 与 llama.cpp 的 GGUF（1.8 GB q8_0）及 Python wrapper 部署方案，代码采用 Apache 2.0 许可。
推荐理由：仓库公开了数据生成、SFT、DPO 到 GRPO 失败与修复的完整脚本和实测数据，读者可以照此复现并借鉴其偏见修正做法。
KittenML 发布 Kitten-TTS 2 的代码与权重，称其为首个 1.58-bit（三值）TTS 模型，1.7B 参数，仅靠 CPU 即可实时生成。支持少于 5 秒参考音频的 zero-shot 声音克隆、20+ 语言跨语言克隆，以及重音与情感表达控制；代码和权重开源，提供 GitHub 与 Hugging Face 链接，定位为 ElevenLabs 的开源替代。
推荐理由：1.58-bit 三值权重让这个 1.7B TTS 只靠 CPU 就能实时运行，对没有 GPU 的本地部署用户是可查的开源替代选项。
Hugging Face 联合 Zhongguancun Academy 与 Telethon 遗传学研究所发布开源 14.8B 模型 Carbon-X，基于 Qwen3-14B，用混合 tokenizer 在单一 decoder 中联合建模 DNA 序列与自然语言。五项 DNA 基准平均 66.7%（关闭思考），比起点 Qwen3-14B 高 27 分，接近 GPT-6.1 Sol 的 67.5% 而推理成本约为其 1/1800，分析 ClinVar 全部 240 万意义不明变异约花 $300。权重以 bfloat16 适配单张 80 GB GPU，可用 vLLM 部署，支持作为 agent 工具调用，未做临床验证、不可用于医疗决策。
推荐理由：原文给出五项 DNA 基准得分、成本对比和完整训练配方，读者可以据此评估这个 DNA 语言模型的实际水平与用法。
Meta 的开源权重模型 Muse Spark Open 在 Fireworks 上线，提供 Day-0 serverless 调用。该模型为 816B 参数 MoE 架构，每 token 激活 42B 参数，上下文窗口 1M token，主打长上下文编码与 Agent 工作。
推荐理由：给出了参数规模、激活参数和上下文窗口等关键配置，读者可据此判断该模型是否适合长上下文和 Agent 场景。
Kyutai 于 10 月 20 日发布三款更小的 Pocket TTS 模型，参数量分别为 1.9M、6.9M 和 18.2M，均为英语模型，支持声音克隆并设计为在 CPU 上运行，可在其 demo 中切换尺寸。作者认为实用之处在于让语音生成留在 CPU、把 GPU 留给本地 LLM，倾向从 6.9M 版本入手；参数量统计包含音频解码器，处理参考声音的编码器是独立的，参考音只需编码一次。代码与安装说明由 /u/BerryBlush_Rogers691 提交。
推荐理由：作者给出了把语音生成留在 CPU、把 GPU 让给 LLM 的本地部署思路，并指出参数量统计包含音频解码器这一细节。
alesha-pro 在 Hugging Face 发布 Qwen3.8-Flash-Next 的 abliterated Strata GGUF 量化包，含 S 和 S-small 两种规格，基于 Mirai 的 2-bit trellis 构建，用 huihui-ai 的拒绝方向向量去除拒绝行为。实测 AdvBench 64 条提示中 stock 版拒绝 64 次、加向量后仅 1 次，Alpaca 无害提示基本不受影响。可在 1-2 张 RTX 3090 上运行，S 版解码 82-113 tok/s，支持最高 262144 上下文，需 Linux、CUDA 12.8+ 和约 64 GB 内存。
推荐理由：作者实测了加拒绝向量前后的拒绝数和各档速度内存数据，读者可以据此判断这个去对齐量化包的实际表现。
Cloudflare 的 27B 多模态决策模型 Clef 已在 Ollama 上线，用户可本地运行或使用 Ollama 云端。该模型从 Qwen3.8-27B 微调而来，以 Apache 2.0 协议开源，支持文本、JSON 与图像输入，可一次读取输入并同时对所有问题的答案打分，兼容 Jev 和 System One API。官方称其登顶 Cloudflare 的 Decision Index，在 Jev benchmark 套件多数项目上超过 Jev，例如 BFCL case exact 98.47 对 95.75；43 个评测的延迟中位数为 209.3ms（Clef-flash 为 38.8ms）。
推荐理由：官方发布了多模态决策模型 Clef 的完整基准与延迟数据，读者可以直接对比它和 Jev 等模型在各场景的实际表现。
Blockway 团队发布 Agens Volundr 32B v1，针对社区对 Preview 版的反馈做了修复：SWE-bench 任务重复循环从 36/50 降到 0/50，SWE-bench Verified 50 题子集从 22 提到 27/50，τ²-bench 从 89 到 92/120，SGLang 构建新增 session continuation 使后续轮次快 2.9 倍。
推荐理由：官方逐条列出 Preview 版被社区指出的问题及 v1 修复数据，还给出 16 GB 构建的实测速度与质量下降幅度，便于自行评估取舍。
Unsloth 在 Hugging Face 发布 DeepSeek-V4.1-Flash-1017 的 Unsloth Dynamic 3.0 GGUF 量化版，1-bit 可在 128GB+ 内存设备运行，3-bit 需 256GB，全精度需 320GB。该模型为 DeepSeek-V4.1-Flash 的小幅更新，官方基准显示推理、编码、Agent 和视觉任务均有提升，如 Terminal-Bench 4.0 得分 42.3 对上一版 31.2；模型采用 MIT 许可，支持 1M token 上下文，需使用 llama.cpp PR 或 Unsloth Desktop 运行，prompt 编码由 encoding.py 与 deepseek-recipe 工具库提供。
推荐理由：官方模型卡附上了与 DeepSeek-V4.1-Flash 及多个竞品的具体基准对比，以及量化档位对应的内存需求，可据此评估该版本的实际收益。
论文介绍 Muse Glimmer，一个面向消费级硬件上自主智能体任务的开源 30B 因果语言模型，集多步推理、工具调用与失败恢复于一体，支持文本与图像输入，训练数据覆盖一百多种语言，量化至约 4-bit 可单 GPU 本地推理。作者称其在工具调用、多步规划和智能体任务完成上优于同尺寸的 Gemma4-31B 与 Qwen3.6-27B，模型以 Apache 2.0 许可发布。
推荐理由：论文给出30B级端侧Agent模型在同尺寸模型上的基准对比，对关注本地部署智能体的人有参考价值。
Reflection 首个开放权重模型 Beam 于10月16日发布，Ollama 作为 day-zero 合作伙伴限时免费提供，Beam 端点全程零数据保留（ZDR）。Beam 是 MoE 模型，总参数约501B、每 token 激活23B，上下文窗口100万 token，采用 Apache 2.0 许可，面向软件工程、推理和长程 Agent 任务，可通过 ollama run beam:cloud 或 Claude Code、Codex、OpenCode 调用。
推荐理由：官方公告同时给出与 Kimi K3、GLM 5.3 等模型的 Agent Coding 跑分对照表，读者可直接比较 Beam 在各编码基准上的位置。
NVIDIA 发布 Nemotron 3.5 Bolt 74B-A9B 24GB，一个面向本地日常智能体任务的开源权重视觉语言模型，采用原生 2-bit 量化（IQ2，量化感知训练）将 74B 总参数（9B 激活）压进 24GB 显存。架构为 Mamba-2 与 Transformer 混合加 LatentMoE，配 C-RADIO v4-H 视觉编码器，支持文本、图像和视频输入，上下文最长 256K tokens，可通过 vLLM 部署在 A100、H100-80GB 或 Blackwell 上，并支持经 DFlash 的 LiLiCorr 投机解码。许可证为 OpenMDW-1.1，可商用；GGUF 权重已上架 Hugging Face。
推荐理由：原文给出了参数结构、量化精度、显存占用和部署硬件等具体规格，读者可以据此评估本地跑智能体任务的可行性。
Black Forest Labs 在 Hugging Face 发布 FLUX 3 Image Klein Base，一个 5.6B 开放权重文生图与图像编辑模型，支持最多 10 张参考图，文本编码器为 Qwen3-VL-4B-Instruct。该仓库为未蒸馏 base checkpoint，面向微调、LoRA 训练与研究；模型卡强调必须使用提示词上采样器，并给出 BF16/FP8/NVFP4 格式在 B200 上 31/29/26 GB 的峰值显存数据。模型采用 FLUX Kommunity License，非商业使用免费，年收入低于 500 万美元的合格用户可享商业输出例外。
推荐理由：官方模型卡写清了基础版与蒸馏版的分工、提示词上采样要求和各精度显存占用，方便读者选对 checkpoint 再动手。
OpenBMB 的 MiniCPM-V 4.7 演示显示，35B-A3B MoE 视觉语言模型可在约 3GB 内存的手机上本地运行，可读现实标识、理解复杂文档并做视觉推理。关键在 LES（Lookahead Expert Scheduling），通过预测并预加载专家缓解 MoE 推理瓶颈；团队还发布了面向低资源设备的 1B 版本，以及用于定制微调同时保留通用能力的 SRFT 方法。GitHub：https://github.com/OpenBMB/MiniCPM-V
推荐理由：帖子里讲清了 LES 通过预测并预加载专家来优化 MoE 端侧推理的思路，适合关注多模态模型本地部署的读者。
面壁智能发布 MiniCPM-V 4.7 系列最新模型，其中 35B-A3B 是该系列首个 MoE 模型，官方称其为首个可在端侧无损流畅运行的开源 MoE 模型，在 iPhone 17 Pro Max 上解码速度达 13+ tokens/s。模型基于 LLaVA-UHD v4 的 intra-ViT 早期压缩技术减少视觉 token 计算，支持混合 4x/16x 视觉 token 压缩，覆盖 iOS、Android 与 HarmonyOS，并对 Rockchip、后摩、Intel、AMD、Arm 芯片平台提供 day-0 支持；官方称 Instruct 模式下整体得分高于 Qwen3.6 35B-A3B 且推理时间更短。
推荐理由：原文列出了 LES 调度、视觉 token 压缩和各平台量化支持，可了解这款端侧多模态 MoE 的部署路径。
NVIDIA 在 Hugging Face 发布 Nemotron 3.5 Super VL 的 NVFP4 量化版本，这是一个 120B 总参数、12B 激活参数的视觉语言模型，采用 Mamba-2 与 MoE 混合架构加 C-RADIO 视觉编码器，支持最高 1M token 上下文和原生 MTP 投机解码。量化通过 BF16 模型的量化感知蒸馏完成，模型卡给出了 BF16 与 NVFP4 在 GPQA-Diamond、SWE-bench Verified、Video-MME v2 等数十项基准上的对照结果，并提供 vLLM、SGLang、TensorRT-LLM 在 DGX Spark、H200、H100、GB200 上的部署配置，许可证为 OpenMDW-1.1，可商用。
推荐理由：模型卡同时给出 BF16 与 NVFP4 的完整基准对照和多种硬件部署配置，读者可以据此评估量化损失与所需显存门槛。
IndrasMirror 发布 DeepSeek-V4.1-Flash-GSQ-Uncensored，对 dealignai 的 abliterated 检查点做校准混合量化，552B 参数 MoE 压缩至约 163 GB（152 GiB 专家权重），可在 RTX 4090 24 GB + 90 GB RAM + NVMe 的家用 PC 上运行。量化采用三档专家格式（42.8% 三值、39.2% 2-bit、18.0% 3-bit），与同尺寸均匀 Q2_0 相比输出误差低 17%；held-out 困惑度 5.645（原模型 4.915），top-1 一致率 0.674。实测 Prefill 250 tok/s、Decode 约 26 tok/s（启用 ggml patch 可达 27+）。
推荐理由：原文完整公开了混合精度量化的校准方法、逐层误差和困惑度数据，并给出在单张 RTX 4090 上复现所需的全套工具与硬件清单。