新闻、仓库与研究，按时间排列。
参赛队「广州智行科技」开源千问杯多模态推理大赛最终第3名（获2万元奖金）的完整方案：在 Qwen3.5-0.8B 上先蒸馏 Qwen3.6-27B 的 113K 样本做 SFT（初赛 41.8 分压线晋级），再用 GRPO 30 步小剂量 RL（决赛榜 20.2 分，第 9/20），答辩后终评第 3。仓库公开训练/导出脚本、真实日志与技术报告，权重托管于 Hugging Face；核心发现包括 RL 剂量轴在 30 步达峰、同权重 ZIP CRC 消融证明采样解码白送约 3 分、0.8B 模型 RL 池内学习量与平台分强反相关。
推荐理由：作者用同权重 CRC 消融和剂量轴实验分离出每个增量的因果证据，0.8B 小模型 RL 剂量与遗忘的权衡刻画对类似场景可迁移。
作者用两台 £299.99 的 Lenovo IdeaCentre Mini（Snapdragon X X1-26-100，32GB LPDDR5，无 GPU）以 USB4 相连，实测 llama.cpp、Janas 和自研 ToRc 引擎跑量化模型的读写速度。统一测试负载下，ToRc 双机跑 Qwen3.6 35B A3B Q4_0 达 315/43.3 tok/s（读/写），编码对话 59.6 tok/s；95GB 的 Qwen3.8 Flash Next IQ4_NL 靠 NVMe 流式读取专家权重，双机达 46.2/20.3 tok/s。MTP 加速依赖文本类型，代码任务普遍提速而 Alice 散文上 llama.cpp 反而变慢。整套方案约 £600、负载功耗各约 35W，ToRc 引擎尚未发布。
推荐理由：作者在两台 300 英镑的骁龙迷你主机上实测多款推理引擎跑 Qwen 大量化模型的读写速度，并给出统一测试负载和完整数据。
tegsvenson 发布 Qwen3.8-Flash-Next-Uncensored 的 Q5_K_S 重打包 GGUF，将 96 个 hyper-connection inject 张量改为 F32 存储，使其可被 Splash 1.4.0 加载，其余 1,128 个张量与 orcarouter 原版逐字节一致，体积仅增加 12.42 MiB。该版本移除安全对齐（abliterated），在 M4 Max 128 GB 的 MacBook Pro 上经 oMLX 0.7.2 测试，可加载完整 262,144 token 上下文，冒烟测试输出速度 98.4 tok/s。
Burabeeh Lab 发布开源权重无审查大语言模型 Kimibrain 的官方 GGUF 版本，支持 Ollama、llama.cpp、LM Studio。模型总参数 34.7B（MoE 架构，256 专家、每 token 激活约 3B），上下文长度 262,144 tokens，附带可选视觉投影器可读图，采用 Q4_K_M 量化，文件 19.7 GiB，基于 Qwen3.6-35B-A3B 社区量化版打包，权重未改动，仅修改元数据和 chat template，以 Apache 2.0 许可开源。
Kapitsa 贡献者 Ye 发布 0.2.7 版本，针对老款 Apple Silicon 芯片优化，并在 2021 款 MacBook Pro 14（M1 Pro、16GB）上对六个模型做了与同机最快竞品引擎的基准对比。Qwen3.5 4B/9B 解码达 97.2/56.8 tok/s，分别为 mlx-serve 的 1.56×/1.52×；Qwen3.6 35B-A3B 2-bit 达 52.2 tok/s，解码 1.21-1.35× llama.cpp；六个模型峰值内存均低于对手，Dory 4B 为 4.4 vs 11.5 GB。Nemotron Dory 4B 长上下文解码被 mlx-lm 反超，作者已开 issue 跟进。
推荐理由：作者给出六个模型在 16GB M1 Pro 上与最快竞品的逐项对比数据，含长上下文衰减和内存占用，可复现可查证。
yfHHHE 发布 emoji-native-lm，基于 Qwen3-1.7B 用 LoRA 做 SFT 加 DPO 微调，对任何输入只以 1-3 个 emoji 回复。训练数据约 12k 条中英文聊天消息，由 Claude Opus 生成并回复，覆盖 1,915 种 emoji；666 条评测提示下经 wrapper 的回复 100% 合规，首轮采样合规率 98.9%，而基座 Qwen3-1.7B 为 0%。仓库提供 Ollama 与 llama.cpp 的 GGUF（1.8 GB q8_0）及 Python wrapper 部署方案，代码采用 Apache 2.0 许可。
推荐理由：仓库公开了数据生成、SFT、DPO 到 GRPO 失败与修复的完整脚本和实测数据，读者可以照此复现并借鉴其偏见修正做法。
DavidAU 团队发布基于 Qwen3.8-27B 的多阶段微调模型 Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored，提供常规与 MTP 两种 NEO imatrix GGUF 量化。8bit 下 ARC-C 735、ARC-E 882，4bit ARC-C 719，均高于原版 Qwen3.8-27B（8bit ARC-C 591）；思考 token 缩减至原版的 1/2 到 1/10。去审查用 Heretic v1.2.0+ 的 ARA 方法，Stage 1 拒绝率从 99/100 降到 0/100，KL 散度 0.0535。
同一新闻，精选展示《TopherAU 发布 Qwen3.8-27B TURBO 去审查 GGUF 微调版，ARC-C 达 735》
AtomicChat 发布 Qwen-Image-2.1-Turbo-Uncensored GGUF，将 Qwen-Image 的文本编码器 Qwen3-VL-8B-Instruct 的拒绝方向投影移除，供 stable-diffusion.cpp 以 --llm 参数本地运行。作为聊天模型，英文拒绝率从 88.9% 降至 1.2%，俄语从 38% 降至 0%，MMLU 保持 77.35% 不变；图像侧在 45 条敏感提示上无一翻转，因原管线本就无内容过滤。提供 BF16 到 Q2_K 共 7 档量化，AD-Q4_K 为 4 bit 推荐，附完整制作方法与局限说明。
同一新闻，精选展示《AtomicChat 发布 Qwen-Image-2.1-Turbo-Uncensored GGUF 文本编码器，拒绝率从 88.9% 降至 1.2%》
团队发布开源 DNA 语言模型 Carbon-X，基于 Qwen3 14B 在 DNA 与自然语言混合语料上 midtraining 训练，在五个 DNA benchmark 上超过所测全部开源模型，并媲美 GPT-6.1 Sol，成本约低 1,000x。模型已提供 GGUF 版本，可经 llama.cpp 本地运行，支持用自然语言分析 DNA 序列、预测突变影响和生成新 DNA。
fribourgquants 在 Hugging Face 发布基于 Qwen3.8-27B 的多阶段微调 GGUF 版本，主打去对齐与思考 token 缩减。用 Heretic v1.2.0+custom 的 ARA 方法消融后，Stage 1 拒绝数从原版 99/100 降到 0/100，Stage 2 平衡后为 11/100、KL 散度 0.0025；8bit ARC-C 达 0.735、ARC-E 0.882，4bit ARC-C 0.719，均高于原版 Qwen3.8-27B。思考块缩减至原版约 1/2 到 1/10，支持 xhigh/medium/low 三档推理模式；MTP 量化在 Q4_K_S 上约 90 t/s，普通量化约 75 t/s（5090、LMStudio 实测）。
推荐理由：作者给出了 Heretic 消融前后 100 次拒绝数与 KL 散度的对照数据，以及各量化档位的基准分数，可据此评估该去对齐微调的实际效果。
一位用户在 M4 MAX 上用 oMLX 运行 `Qwen 3.8 Flash Next oq4e-mtp` 时发现，单任务可达 50/60 t/s，多智能体并发时速度骤降至 20 t/s，且缓存失效导致大量 prefill、GPU 利用率异常。将 Max Concurrent Requests 设为 1 可在多数场景下借助缓存减少 prefill，作者仍在寻求跑满 GPU 的优化方案。
mradermacher 在 Hugging Face 上发布了 qwen2.5-1.5b-abliterated-argos 的 GGUF 静态量化版本，提供从 Q2_K（0.8GB）到 f16（3.2GB）共 12 种规格，其中 Q4_K_S、Q4_K_M 标注为快速推荐，Q8_0 质量最佳。weighted/imatrix 量化暂未提供，用户可通过 Community Discussion 提出请求。
一项基于 BBQ 基准的研究考察了 Qwen3、Gemma-3 和 SmolLM2 在多种规模与量化设置下的社会偏见与弃答行为。结果显示，更大模型问答准确率更高，但偏见无简单缩放趋势，量化影响因配置而异；26 个偏见响应更少的配置中有 20 个同时出现过度弃答增多。研究表明公平性评估需将偏见响应、弃答、提示词形式与选项设计联合考虑。
论文提出 SPARE，一种免训练、与 selector 无关的方法，用校准数据上 token 归一化 Top-K 门控权重的路由熵决定每层剪去多少专家，路由越分散的层剪得越激进，并用随机剪枝扰动界形式化该直觉。相同 selector 与预算下，SPARE 在 Mixtral、Qwen3 和 DeepSeek 模型上平均精度优于均匀分配，50% 专家剪枝时 Qwen3-30B-A3B 八任务平均从 57.2% 升至 63.8%，DeepSeek-R1 的数学、代码与科学平均从 80.1 升至 82.8。论文地址 https://arxiv.org/abs/2610.29662v1
推荐理由：论文把 MoE 专家剪枝从剪哪些专家推进到每层剪多少的问题，给出的路由熵方法无需训练即可提升高剪枝率下的精度。
arXiv 论文提出 ALIAS，用一致标识符重命名（CIR）在 111 个 TLA+-Bench 任务上检测 LLM 记忆化。重命名使 Claude Opus 4.8 正确率从 28% 降至 18%、GPT-5 从 9% 降至 7%，但按行为评分后降幅缩小至约 3 和 0 个百分点，说明大部分下降来自要求精确名称的评分方式。微调实验中重命名移除约一半训练增益，在未见任务上损失 4.9（Qwen）和 1.3（Gemma）个百分点。
该论文介绍 WMT 2026 Multilingual Instruction Shared Task 的参赛方案，用 LoRA 基于主办方数据 EuroAlpaca 和跨语言增强数据 CrossEuroAlpaca 微调 Qwen3-8B，面向十种语言的开放式问答（QA-OEG）。在相同解码设置下，目标语言 QA-OEG 的 Gemma-4 评分较基座模型相对提升 7.8%；在 Aya Evaluation Suite 评测中，macro-平均 ROUGE-L 相对提升 41.5%、BERTScore-F1 提升 2.9%。但这些增益具有任务和语言特异性：目标语言的上下文问答及非目标语言的三项任务得分均有下降。
一位 Reddit r/LocalLLaMA 用户分享实测：Qwen Flash Next 的 IQ2 量化在处理复杂、细微的代码 bug 时表现优于 27B 模型的 Q8 量化，能运行测试并更有条理地推理问题。作者强调这是主观体验，但认为值得选择 QFN。
privastudio 在 Hugging Face 上重新分发 huihui-ai 制作的 Huihui-Qwen3.8-27B-abliterated 的 Q4_K GGUF 量化版（约 16.8 GB），打包为可在 PrivaEmanator 中本地加载的格式。该模型基于 Qwen3.8-27B，由 huihui-ai 移除了拒绝回答行为，附带 mmproj-BF16.gguf 视觉投影文件以支持图像输入，采用 Apache-2.0 许可证。
一项 arXiv 研究测试基于 LLM 的 System One 决策模型在法律权威验证中能否在正确答案缺失时弃权：扩展 CaseHOLD 数据集（5,314 项中 1,670 项替换正确 holding）后发现，生成式 LLM 在无正确选项时仍于 38-86% 的情况下强行选择，最谨慎的决策模型为 30%。在标准 CaseHOLD 上，决策模型以 1/55 的成本达到与最佳生成式 LLM 相当的准确率（88.1% vs 88.2%）；两者结合可将错误引用减半，其概率蒸馏到 Qwen3-8B 后可得校准良好的本地模型。
研究者提出动态智能体基准 Environment Duels，评估九个前沿 LLM 作为环境创建者与解题者的双重能力，发现解题与环境创作是两种不同的技能：最强解题者并非最强创作者，而较小的模型能写出最难的环境和最有用的提示词。在 Qwen3.8-27B 的强化学习研究中，模型在他人环境上的提示词提升能预测这些环境训练对 held-out 推理与智能体基准的改进。代码已开源。
nchapman 在 Hugging Face 发布 Huihui-Qwen3.8-27B-abliterated-W4A16-GPTQ 模型，提供 Transformers、vLLM、SGLang 及 Docker 部署方式，并支持 image-text-to-text 多模态推理。模型可通过 vLLM 或 SGLang 启动服务后以 OpenAI 兼容 API 调用。
Ju-Chun Ko 在 arXiv 发表论文（arXiv:2610.29342），测试 abliteration（去审查）模型是否同时消除政治审查相关偏差。研究用 NVIDIA Nemotron 3.5 Bolt 74B-A9B 与 Qwen3.8-Flash-Next 及各自的社区 abliteration 版本，以繁体中文、简体中文和英文各回答 22 组陈述对和 27 个开放问题。结果显示脚本影响远大于 abliteration：原版 Bolt 在繁中 Index S 得分 +0.58、英文 +0.57、简中仅 +0.05，且以 0.91 的概率在简中肯定台湾属于 PRC、繁中仅 0.06；abliteration 最多改变 0.06。
推荐理由：论文用配对模型实测 abliteration 前后偏差，显示去审查不等于去立场偏差，并给出脚本切换与立场方向的量化证据。
论文提出 OnQ，一种结合 on-policy 蒸馏与逐候选 Dynamic KL 的低比特恢复管线，用量化学生模型自身生成的前缀接受全精度教师监督。在 Qwen3-1.7B、4B 和 8B 的 2 与 3-bit 精度上，OnQ 取得九个基准的最高平均分；2-bit 下在每个模型规模的每个基准都超过所有基线，Qwen3-8B 平均比最强基线提升 10.26 分，且响应更短、截断和重复错误更少。论文链接：https://arxiv.org/abs/2610.29378v1
推荐理由：论文指出现有量化感知训练的固定响应监督缺陷，并用自身前缀上的蒸馏与动态 KL 给出可复现的低比特恢复方案。
一位用户在 Reddit r/LocalLLaMA 分享同时运行两个 Claude Code 实例的体验：一个用 opus 5.5，另一个用 Qwen flash next q8，并在另一台电脑上配合 Mirai Qwen 27b q4。他表示 opus 5.5 比自己本地能跑的 Qwen 更快更聪明，但仍享受这种“把想法变成现实”的乐趣。
nchapman 在 Hugging Face 发布 Huihui-Qwen3.5-9B-abliterated-W4A16-GPTQ 模型，提供 Transformers、vLLM、SGLang 及 Docker 部署的官方用法示例，支持 image-text-to-text 多模态推理，并可通过 OpenAI 兼容 API 调用。
该开源项目用 QLoRA 微调 Qwen3-4B-Instruct-2507（Apache 2.0），将法语/英语/混用的招聘邮件转换为经 schema 校验的 JSON，并与同款基座模型的 zero-shot 和 few-shot 表现在人工核验的 200 条测试集上对比。训练数据为 LLM 生成的合成数据，微调模型使用单行指令以避免超出 1024-token 预算，其部分延迟优势来自更短的提示词。项目尚处进行中（Day 1），备选模型为 Qwen3-1.7B。
一位 Reddit r/LocalLLaMA 用户将装上第 4 张 RTX 3090，考虑把日常模型换成 Qwen3.8 Flash Next，询问该配置下应选哪个推理引擎。其目前用 vLLM 跑 Qwen3.8-27b，速度约 100+ tps、prefill 约 3000 tps；首选引擎 Strata 在 96GB VRAM 下或可以 4-bit 将整个模型装入显存。
Reddit 用户 /u/GapNew4766 在 M5 MacBook Pro 32GB 上用 Qwen3.5-4B（Q4_K_M、64K 上下文、llama-server）对 Pi、goose、Crush、Cline、OpenClaw、OpenCode、Hermes、Qwen Code、Codex CLI、Atomic Agent 共 10 个 Agent 框架各跑 5 个小任务，10 个中 6 个全部通过。失败不来自工具调用解析，而是精确匹配编辑无法逐字节复现旧文本导致反复重发、只修可见测试用例、数错 ERROR 行（40 vs 43）、模糊指令被字面执行写错位置；相同硬件和模型下最快框架 1m36s、最慢 17m43s，快 11 倍。
一位 r/LocalLLaMA 用户让大语言模型调研虚构的未来模型 "Qwen 3.8 Flash Next"，该模型的 "Flash Next 架构" 会把 n-gram 权重卸载到系统内存。模型推理认为 1-bit UD-IQ1_S 版本共 67.6 GB，非查表权重约 41 GB，可在 32 GB VRAM + 32 GB RAM 配置上运行，n-gram 查表约 27 GB 从 NVMe 经 mmap 分页，预计生成速度约 15–27 tok/s。
theJuice85 在 Hugging Face 发布面向 Qwen3.8-27B-GGUF（Q4_K_XL）的去对齐 LoRA 适配器 heretic-qwen38-t26，用 directional ablation 搜索找到。实测将硬拒绝率从基座的 33-86% 降到约 0，能力评测（AIME24、GPQA、MMLU Pro 等 43 个成对项）未发现可统计的能力损失；仅 2.5 MB，AGPL-3.0-or-later。注意其只评测了拒绝率与能力回归，未评测下游安全性，且系统提示词是必要条件，缺失时模型会以带说教的方式作答。
推荐理由：作者给出成对的拒绝率与能力回归数据，硬拒绝从 33-86% 降到约 0 且能力无可测差异，可据此判断这个去对齐适配器的实际效果。
一位 LocalLLaMA 用户让 Argon 修改 Strata 上的 KV Cache 配置，再将 DeepSeek V4.1 Flash 与 QwenFlashNext（QFN）的评审结果交回 Argon 复核。Argon 最初建议改用 K8V8，但看到另两家评审后收回该建议，且对比中未列出自身分析；作者指出 Argon 运行环境可见性更高，结果仅供参考。
Esxyko 在 GitHub 发布 llm-classification-finetuning 项目，用于 Kaggle LLM Classification Finetuning 竞赛，比较两个模型对同一提示词的回答并预测 A 胜、B 胜或平局。项目支持冻结 Qwen3-4B 主干加可训练成对分类器，以及 LoRA 和 4-bit NF4 QLoRA 训练，提供防泄漏的 80/20 分层划分、holdout 验证和混淆矩阵报告。训练需 1 块 CUDA GPU，提交推理需 2 块。
GitHub 仓库 joyjeni/arc-agi2-hybrid-solver 发布面向 ARC-Prize-2026 的三层混合 ARC-AGI-2 求解器，目标 LB 35–45%。方案由 Tier-1 的 18 个确定性规则求解器、Tier-2 的 LLM 程序合成（Qwen3-4B 微调模型写 Python，最多重试 3 次）、Tier-3 的 8 提示词多数投票 Chakra Ensemble 组成，模型 qwen3_4b_grids15_sft139 以 4-bit 加载于 Kaggle GPU。与 NVARC 的 test-time training 不同，该流水线不做 LoRA 适配，代码以 MIT 协议开源。
一位 Reddit r/LocalLLaMA 用户发布了 Swift 1.5 的自产量化版本，对全精度模型应用 Heretic 方法并量化到 IQ4_XS。其 tensor profile 提取自 Qwen 3.8 Flash Next 的 UD-IQ4_XS GGUF，量化所用 imatrix 覆盖数学、代码、英语、通用指令与工具场景。目前仅提供 IQ4_XS 格式，作者接受其他格式的请求。
Reizxn 在 Hugging Face 发布 abenzerps/Qwen-Image-2.1-Uncensored-Quantized 的逐层混合精度 GGUF 量化版，体积 4.391 GB、4.94 bits/weight，相对权重误差 0.0636。297 个张量独立量化并按最小化重构误差分配格式，组成 Q4_K×126、Q5_K×105、F16×66；实测平均 PSNR 24.25 dB，高于统一 Q4_K 的 22.44 dB，4 个测试主体中 3 个胜出，可用 stable-diffusion.cpp 或 ComfyUI-GGUF 加载，需搭配 Qwen-Image-2.1 VAE 和 Qwen3-VL-8B 文本编码器。注意仅适合 1024 及以上分辨率。
推荐理由：作者给出了逐层混合精度分配方法与逐张渲染的 PSNR 对比数据，读者可以按需判断该 4.39 GB 量化版相对统一 Q4_K 的保真度收益。
社区在单张 RTX 5080 16 GB（Linux/Fedora 44）上用 Strata v0.2.1 测试 Qwen3.8-Flash-Next IQ3_XXS、64K 上下文，中位解码速度 150 tok/s，16K-32K 预填充约 4,400 tok/s，4K 预填充 3,755 tok/s、TTFT 1.08 s。agent 会话缓存命中 69.5%，每轮 TTFT 0.97 s。测试还发现 Fedora 44 上 GCC 16/15 混用导致链接失败，统一用 g++-15 编译可解决。
一位 r/LocalLLaMA 用户在 strata 中部署 Qwen 3.8 Flash Next（IQ4 xs 量化）后表示被其表现折服，称体验接近其去年专业场景使用的模型。他此前常用 3.8 27b（Q6 kv8），认为 Flash Next 虽不完美但已足够胜任大多数任务。
作者开源了一个基于 LangGraph.js 的 GitLab 代码审查 agent，用 sglang 在两块 4090（PCIe、TP=2）上跑 Qwen3.6-35B-A3B（QuantTrio AWQ 4-bit）。单流解码约 180 tok/s（~50k 上下文）、prefill 9-10k tok/s，8 并发共 985 tok/s；单次审查平均 26 次 LLM 调用、2.3M tokens，已累计 1300+ 次审查，约 70% 的评论被作者采纳解决，约 7% 的运行因模型自我循环而终止。
推荐理由：作者给出双 4090 跑 Qwen3.6-35B-A3B 做代码审查的完整吞吐数据和 1300+ 次实测结果，可复用到自己的本地部署。
SPAR 2026 秋季项目通过掷硬币模拟和石头剪刀布、匹配便士博弈两类实验，检验 LLM 是否有可识别的行为签名及对自身签名的特权访问，结论是没有证据支持特权自我访问。仅 Fable 显示真实的自我预测效应，但一个只看历史的分类器表现相当，更像是对模型习惯的知识；实验覆盖 GPT-6 Astra、Claude Fable 5.1 和 Qwen3.8 27B，判断者重测仅约80%复现，总花费约 $251。
一位 Reddit 用户反馈，在同一套 5090/192GB 本地环境上，用 IQ3_s 量化跑 Qwen（Qwen Flash on Strata）做代码、长 agentic 工作表现出色，但做 RP 时会出现编造情节、混淆剧情等问题。用户尝试了 Freaky Frankenstein 的最新 preset，求推荐合适的 preset、温度设置或更适合 RP 的模型。