新闻、仓库与研究，按时间排列。
laffy-999 发布 Open Grammar 插件，在 Obsidian 1.14.4 和 Logseq 0.10.15 内用本地 Ollama 模型提供英语和德语拼写语法建议，不依赖云模型和外部检查服务，仅接受 loopback 地址并拒绝云端模型。默认模型为 qwen3.5:4b，在 63 段合成基准中修复 32/39 处错误且保留全部 24 个对照段落，约需 3 GiB GPU 显存或可回退 CPU 运行；正文还给出十余个候选模型的对比数据和保护链接、代码等笔记语法不被改动的实现细节。
推荐理由：README 附带 12 个候选模型在 63 段合成样本上的实测对比和筛选逻辑，读者可以照着按内存与语言需求选型复现。
huihui-ai 基于 Qwen/Qwen3-VL-4B-Instruct 通过 abliteration 技术发布去审查版本 Huihui-Qwen3-VL-4B-Instruct-abliterated，仅处理文本部分、不改动图像部分，模型不再回复“无法描述或分析此图像”。该模型已可在 Ollama v0.12.7 及以上版本中以 huihui_ai/qwen3-vl-abliterated:4b-instruct 直接运行，官方建议用于研究或受控环境，避免直接用于生产场景。
arXiv 论文 2610.26595 研究越狱攻击成功率（ASR）对比高度依赖响应生成与判定方式，用 3 个开放权重模型、8 种攻击和 3 种评测流程做实证。低资源语言攻击在关键词匹配下平均 ASR 达 96.0%，改用按 StrongRELECT 说明的 Qwen3 评测器则仅 2.7%；同一请求在 Ollama 默认温度 0.8 下采样 100 次，关键词匹配下 ASR 为 100% 而 Qwen3 评测器为 50%。作者建议明确成功定义、对齐响应预算、验证评测器，并报告重复交互下的累积失败率。
推荐理由：论文用具体数据说明越狱成功率如何随评测方法剧烈变化，对任何人引用 ASR 榜单前都是可迁移的核查思路。
TokenGate 是一个即插即用的小组件，通过受 MoE 启发的 token-gated attention 实现端到端可学习的 token 剪枝，用于快速、省内存的 prefill。在多类任务上 TTFT 提速 1.4 到 11.3 倍、峰值内存降低 1.5 到 3.4 倍且无精度损失，较此前最优 token 剪枝方法 prefill 最快 6.4 倍、内存低 2 倍，可扩展至 Qwen3 等标准 transformer 和 Qwen3.5 等混合注意力模型，代码已开源。
推荐理由：论文给出可学习的 token 剪枝方法及其提速与峰值内存的量化对比，适合关注长上下文 prefill 效率的读者参考。
研究提出安全中期训练（safety mid-training），在预训练与后训练之间利用与通用任务共享的推理结构联合培养安全与通用推理能力。在 Qwen3-1.7B、4B 和 8B base 模型上，平均攻击成功率（ASR）相对降低 72% 至 81%，同时通用能力有所提升。经过纯通用 SFT 或无安全奖励的 GRPO 后，安全收益仍保留，且后续 RL 能达到更优的安全-效用前沿。
Rui Shi 等发布 arXiv 论文 WeAct，在冻结骨干上训练能力专属 LoRA 适配器，并把适配器选择加入 Agent 动作空间，用原生 tool-calling 接口按需组合能力。在 8 个 deep-research 基准上，Qwen3-32B 加 WeAct 比全量微调平均准确率高 6.2% 且计算更少，比最强静态 LoRA 合并方法高 27.5%，并支持不改动骨干的模块化持续扩展。
推荐理由：把适配器选择纳入 Agent 动作空间来缓解灾难性遗忘，在 8 个 deep-research 基准上给出了与全量微调的对比数字。
论文提出 OpenVLHarness，一个围绕能力层与持久多模态记忆组织的多模态推理框架，统一调用异构工具并把输出转为模型可读证据。在 22 个基准、8 个开源与专有骨干上评测，平均比无工具基线提升 9.7-12.6 分，如 Qwen3-VL-8B +11.2、Kimi K3 +9.7、GPT-6 Astra +9.9；用 GPT-6 Luna 中等推理强度时以最多 37% 的模型 token 成本超过最大推理强度下的基线模型、Codex 和 Visual Sketchpad 7.7-8.5 分。
推荐理由：论文在 22 个基准上用八个骨干实测工具调用加多模态记忆的增益与 token 成本，方法和数字都可对照复核。
开源项目 FishStudio 发布于 GitHub，是一个基于 FastAPI + LangGraph 的对话式多模态内容生成平台，通过自然语言对话即可生成和管理图片、视频、3D 模型（OBJ/GLB）等内容，采用 MIT 协议。项目集成 Qwen3-Omni 多模态理解与 Qwen-TTS 语音合成，支持 Skill 系统、Workspace 记忆、无限画板、智能播客生成和虚拟人口型同步视频，图片、视频、3D 生成 API 均可替换为任意服务商。
mecha-factory 发布 Qwen3.6-35B-A3B-Uncensored（HauhauCS Aggressive）Q4_K_M GGUF 文件，将 unsloth 转换的 MTP 头嫁接到 HauhauCS 的去审查模型上，供 llama.cpp 以 --spec-type draft-mtp 进行投机解码。未做任何重训练或重量化，block_count 从 40 变为 41；Apple Metal 上接受率实测 0.79–0.86，CUDA 上约 0.6。文件按 Apache License 2.0 开源。
migtissera（Synthia 作者）发布基于 Qwen 微调的 Tess-4.5-27B，在 150 个 BenchLocal 场景中比基座 Qwen3.8-27B 少生成 25% 的 token 而得分相同。其中 CLI-40 少用 32% token 且得分更高，数据提取少用 43%，BugFind-15 少用 21%。更少 token 意味着更快出答案、上下文窗口占用更少，在本地 GPU 上还可与 draft head 叠加提速。
NeosQ 基于 OrcaRouter 去审查的 Qwen3.8-Flash-Next（125B-A6B MoE）BF16 权重，用 MTPLX Forge 按 flash-next-optimized-speed 配方制作 4-bit 量化版，总大小 115.3 GB，保留原生 MTP 投机解码头。在 M5 Max 128 GB 上 MTP 投机解码达 85.7 tok/s，为普通解码的 2.07 倍；需 Apple Silicon、macOS 14+ 及 96–128 GB 统一内存，支持 OpenAI/Anthropic 兼容 API，采用 Apache 2.0 许可证。
BIGJUTT 发布 Qwen3-8B-abliterated，基于 Qwen/Qwen3-8B，使用开源工具 OBLITERATUS 通过激活工程（abliteration）以 advanced 方法移除模型的拒绝行为。模型可通过 transformers 的 AutoModelForCausalLM 加载使用，OBLITERATUS 代码托管在 github.com/elder-plinius/OBLITERATUS。
一位用户在 5090+4090（152GB 总内存）工作站和 128GB 内存的 Strix Halo 上测试 Qwen3.8-Flash-Next 的不同量化版本，发现 ISTA-DASLab 的 GSQ-RCO-GGUF（Q3_S）效果最好，unsloth 较大量化则出现大量 tool calling 问题。Strata 上没有这些问题，且其针对 QFN 调整了 LlamaCpp，但存在一类无法绕过的坏输出错误；Gufo 仅适用于 Strix Halo。作者询问 CUDA 平台还有哪些可选方案。
Huihui-Qwen3.5-9B-abliterated-oQ4e-mtp 基于 Qwen3.5 9B，使用 o（oMLX v0.7.0）混合精度量化，4 bit、group size 64，格式为 MLX safetensors，已在 Hugging Face 发布。
bambocher 在 Hugging Face 发布 Huihui-Qwen3.5-2B-abliterated 的 oQ4e-mtp 量化版本，采用 oQ（oMLX v0.7.0）混合精度量化。模型类型为 qwen3_5，4 bit、group size 64，格式为 MLX safetensors。
Huihui-Qwen3.5-0.8B-abliterated-oQ4e-mtp 在 Hugging Face 上发布，采用 oQ（oMLX v0.7.0）混合精度量化。模型类型为 qwen3_5，4 bit、group size 64，格式为 MLX safetensors。
一位用户在 96 GB 统一内存的 M3 Ultra Mac Studio 上用 llama.cpp（Metal）+ llama-swap 做本地推理：编程用 Qwen3.8-27B（Unsloth Q8_0，MTP 推测解码，262,144-token 上下文），对话用 Qwen3-Coder-Next（UD-Q6_K_XL，131,072-token 上下文），两者均用 Q8_0 KV cache。作者对 Qwen3.8-27B 的编程表现印象深刻，Coder-Next 则主要用于对话，并征求同硬件用户的模型、量化与性能经验。
Reddit 用户 SeveralViolins 发布了面向 M5+ Mac 的新推理引擎 Ijah，受 Sushi 引擎启发并为其编写了新 kernel。在 5b-6/8b 模型上，其质量比 Jundot 的 oQ4e 更接近 bf16 约 4–5 倍（KLD 0.033/0.009/0.015 对 0.128/0.036/0.078），解码约 100 tok/s，配合 Inco 今日发布的 DFlash2 drafter 可达约 120 tok/s。
douyamv 发布 abliterated（去审查）版 Qwen3.8-27B 的 GGUF 量化版本，提供 Q8_0 到 Q2_K 共 6 档，大小约 7.9 GB 至 28 GB，适用于 llama.cpp、Ollama、LM Studio 等 GGUF 兼容引擎。该模型通过在所有层投影去除 refusal direction 实现无限制对话，基座为 27.78B 参数、上下文 262,144 tokens（可扩展至 1M+），采用 Apache 2.0 许可。
kevinelong 在 GitHub 发布 local-llm-lab 仓库，记录在一台 64 GB DDR5、RTX 5070 12 GB 的 Windows 桌面机上对本地大模型的系统实测，并列出 693 项检查的九套基准。最佳配置为 Qwen3.6-35B-A3B Q4_K_M 经 llama.cpp 预配置（context 131,072、--cpu-moe），以及由 Strata 流式从磁盘服务的 Qwen3.8-Flash-Next Q2_0，两者在排名指标 414/414、全部九套 692/693 上逐格持平，后者的 1,100 项知识测试快 31%。
推荐理由：作者在固定一台桌面机上实测本地模型的匹配度、速度和分数，并公开预测记录与纠错，方法可迁移到自己跑本地评测时参考。
Hugging Face 上发布 Qwen/Qwen-Image-2.1 的 Uncensored 量化版本，提供 GGUF、Safetensors 和 MLX 格式，用于本地图像生成，Q4_K_M（4.60 GB）为推荐的 GGUF 量化档位。该版本无内置安全检查器，可直接生成成人及 NSFW 内容，需配合 ComfyUI 与 ComfyUI-GGUF 使用，文本编码器 qwen3vl_8b 可卸载至系统内存以节省 9–17 GB 显存。
ISTA-DASLab 的 Qwen3.8-Flash-Next-GSQ-RCO-Coder GGUF 量化更新了专家保留策略，约 25% 的保留专家与上一版不同，但未修改相对基础 IQ3_S 模型的任何保留权重。该模型仍仅支持英文，在有限专家预算下优先保住了英文能力，多语言能力未能保留。
botp 发布 china-v1 审查方向文件，推理时在第 4 到 44 层投影掉该方向分量，使 Qwen3.8-Flash-Next 不再对中国敏感话题拒答或用宣传口径，原权重不变、可按请求开关。192 题评测中敏感话题拒答/回避率从 58% 降到 2%，校准回答从 11% 升到 56%；质量对照显示 Agentic 任务 34/34 持平，HumanEval+ 156 对 155、GSM8K 50 对 49、MMLU 96 对 97。方向由 30 组中英对照对比对的残差流均值差构造，已在 Strata 生产环境验证，llama.cpp 原生 --control-vector 是加法而非投影、不能复现结果；作者提示 1989 年六四短问题仍可能回避，法轮功、大饥荒和新疆的数字细节可能夸大。
同一新闻，精选展示《Qwen3.8-Flash-Next 发布 china-v1 审查方向文件，推理时去除中国政治审查》
Sameer3336s 发布基于 Qwen/Qwen3.8-27B 的去对齐微调版 GGUF 量化仓库，8bit ARC-C 735、ARC-E 882，4bit ARC-C 719，均高于原版 Qwen3.8-27B。模型用 Heretic v1.2.0+ ARA 方法去审查，Stage 1 拒绝率从 99/100 降到 0/100，KL 散度 0.0535；思考 token 减至原版的 1/2 到 1/10。仓库含常规与 MTP 两种 NEO imatrix 量化，作者在 5090 上测得 Q4_K_S 常规版约 75 t/s、MTP 版可超 90 t/s，支持 256k 上下文与视觉（需另下 mmproj 文件）。
Reddit 用户用 Qwen 3.8 27B 的 LoRA 决策模型 Herbert（已合并为 gguf）驱动一个贪吃蛇游戏，模型每步从左转、右转、直行三个选项中决策，单次决策约 600ms。测试经 ssh 隧道连接 5090 + 64GB RAM 服务器，一次运行存活 370 ticks，此前最好成绩超 2200 ticks，经 llama.cpp 以 Q4_K_M 量化、200000 上下文运行。
/u/HauntingMoment 在 r/LocalLLaMA 报告，单工具的裸 IPython harness 在 Terminal-Bench Lite 上用 Qwen3.5-9B 追平了 QwenCode、OpenHands、opencode、Pi 等更重的生产级 harness。测试发现小模型 agent 的大部分随机性来自环境噪声而非模型本身，各 harness 约 25-30% 的调用用于读文件，工具使用更多反映系统提示词而非模型；OpenHands 因默认硬编码 temperature=0.0 最稳定，但同一任务 20 次试验的通过率仍在不同任务间大幅波动。
推荐理由：作者用多 harness 对照实测定位了小模型 agent 波动的来源，并给出约 40 行正则归一化工具输出这一可复用的降噪方法。
/u/FeydRowan 在 2× RTX 5070 Ti + 96 GB DDR5 上整理了可运行 Qwen3.8-27B 和 Flash-Next（125B MoE、6B 激活）的各推理引擎 decode 速度，区分了本人验证与作者自报数据，capy-flash（DFlash2）在 27B 上达 379 tok/s。文中指出 TP 比层切分更快、drafter 可带来 2–3× 加速、单模型内核在 batch 1 下比通用引擎快 2–6×；按本月欧盟含税价折算，两张中端卡每欧元性能比 5090 高 3–10×，且 96 GB DDR5 涨价后约占专家放内存方案成本的 40%。
推荐理由：作者在同一台机器上实测多款推理引擎并按欧元换算每千欧元的 tok/s，还指出 2026 年 RAM 涨价改变了性价比排序。
GitHub 上有研究者端到端复现了 Wilfrid Laurier University 团队的 FedLLM 论文，用 Qwen2.5-1.5B 结合 LoRA、4-bit QLoRA 与联邦学习做可解释交通流预测，仅训练 18,464,768 个权重（1.18%）。复现结果接近原论文：FedLLM 误差与论文相差 2% 以内，15/30/45/60 分钟预测的 R² 匹配到小数点后三位；复现中 5,000 条测试提示词 RMSE 为 31.84，低于论文的 35.66。仓库包含完整代码、LoRA adapter、合并模型与运行日志，GRU、DCRNN 等基线未在本次发布中运行。
Nace.ai 的 Ye 发布开源（Apache 2.0）推理引擎 Kapitsa，专为 Apple Silicon 定制 Metal kernel，仅支持 Qwen 和 NVIDIA Nemotron 两个模型家族，用于在 Mac 本地跑编码 Agent。速度来自按架构定制的 Metal kernel、投机解码（DFlash2、DFlash、DSpark、LiLiCorr）、混合模型的 KV 加循环状态缓存、27B 与 Bolt 部分预填充跑在 Neural Engine、并发请求共享 GPU pass。
推荐理由：作者逐项拆解了推理加速来源，并给出三档 Mac 上与多个主流引擎的 tok/s 对照表，还提供 CLI 让读者自测提交结果。
Mitroshenkov87 在 Hugging Face 发布 huihui-ai/Huihui-Qwen3-4B-Instruct-2507-abliterated 的未修改备份镜像，该模型为基于 Qwen/Qwen3-4B-Instruct-2507 的指令微调写作模型。镜像文件与原仓库 commit c9bd4645 逐字节一致，采用 Apache-2.0 许可，作为 Voxprint 模型下载器的备用下载源。
Mitroshenkov87 在 Hugging Face 发布 huihui-ai/Huihui-Qwen3-VL-4B-Instruct-abliterated（commit ce72a7c）的未修改备份镜像，该模型是基于 Qwen/Qwen3-VL-4B-Instruct 的指令微调视觉语言描述模型。镜像文件与原仓库逐字节一致，采用 Apache-2.0 许可，作为 Voxprint 模型下载器的备用下载源。
一位 Reddit r/LocalLLaMA 用户发现，自己的 Qwen 3.8 FN 回答质量不错，但 Copilot/ChatGPT 几乎瞬间输出整页内容，且用更少 token 解决了同样问题。他质疑这是否为架构差异，认为仅靠企业 GPU 难以解释，怀疑本地模型缺少某种根本性机制。
作者 /u/dead-fish 在两张 CMP 170HX（PCIe Gen2 x4）上优化 Qwen 3.8 Flash Next，使用 W4A16 AutoRound 检查点、修补版 vLLM、流水线并行和原生 MTP 投机解码。8 并发代码请求时单请求解码 116 tok/s、首 token 231 ms，聚合 840 tok/s；prefill 4k–64k 提示为 6,300–7,100 tok/s；HumanEval 157/164（95.7%）、GSM8K 1,271/1,319（96.4%），使用完整 262,144 token 窗口。完整配方、Docker 镜像和补丁见 https://github.com/AlexBrandes/cmp170hx-qwen38-flash-next。
推荐理由：作者给出双 CMP 170HX 跑 Qwen 3.8 Flash Next 的完整配方和分并发吞吐数据，可复现且方法透明。
作者在单张 RTX 3080 20 GB 上用 llama.cpp 实测了 Qwen3.8-27B 的 Huihui 与 Heretic RVN 两个 abliterated 量化版本，仓库不含模型权重。结果显示 RVN IQ4_XS 在 MTP 下最快（代码 69.4 tok/s、散文 58.2 tok/s，比 Huihui 快约 5–7%），德语困惑度略低，通过 88.6K 上下文与全部 6 项工具调用测试，但多占 1.1 GB 显存导致 n-max 3 无法启动；MTP 草稿深度 n-max 2 是综合最优设置，MTP 对 prefill 无帮助反而约损失 5%。
huginnfork 发布基于 local-inference-lab/Qwen3.8-Flash-Next-FLARE 的 abliterated 版本，对 25,188 个张量中的 24,576 个做了拒绝方向编辑，属于不完整编辑。在 16 条提示词、协议 A（关闭思考）下，未编辑母模型拒绝率 100%，该版本为 18.8%，完整参考版为 0%；作者提醒 n=16 区间较宽，残余拒绝来自未编辑的 612 个注意力、共享专家和嵌入张量。
推荐理由：原文给出拒绝率实测和未编辑张量清单，读者可以据此判断这个不完整消融版本到底去掉了多少对齐。
tejas4patel 发布 R 包 dragonfarm，可从 PDF、Word、网页等文档自动生成问答训练数据，经人工审核后用 QLoRA 微调本地模型，内置 RAG 可直接基于文档作答。7B 模型 4-bit 加载可放进 8 GB 笔记本 GPU，示例中 Qwen2.5-7B-Instruct 在 RTX 406 上训练约 22 分钟，修复了 0.5B 版本答错的退换政策细节；0.5B 训练约 2-4 分钟。产出为 Hugging Face transformers 可加载的 adapter 或合并模型，MIT 许可，已上架 CRAN。
推荐理由：作者用同一批工单给出 0.5B 与 7B 微调前后的对照输出和耗时数据，读者可据此评估在自己文档上微调的可行路径。
GitHub 开源项目 ResumeRadar 上线，面向学生的求职准备工具：上传 PDF 简历后基于 PyMuPDF 和 185 项技能分类本地解析，按 18 个职业给出确定性加权准备的百分比与技能差距，并匹配 55 家印度公司（298 个职位）。AI 层通过 Ollama 本地运行 qwen2.5:3b 或 llama3.2 生成路线图、项目推荐与模拟面试准备，可完全离线工作；CPU 笔记本上 qwen2.5:1.5b 约 30 tok/s。
Lygodactylus 在 Hugging Face 发布 Qwen/Qwen3.8-Flash-Next 的 abliterated 去对齐 BF16 全精度权重，按 Arditi et al. (2024) 方法从残差流中正交化移除拒绝方向，共编辑 149 个残差写入张量，保留完整视觉与视频塔（333 个 visual.* 张量）和 MTP 头。
推荐理由：原文给出按 Arditi et al. 2024 方法消融拒绝方向后的拒绝率与能力对比数据，读者可据此评估这个去对齐版本的实际代价。
Richard Erkhov 将 huihui-ai 的 Qwen2.5-Coder-1.5B-Instruct-abliterated 量化为多档 GGUF 版本，体积从 Q2_K 的 0.7GB 到 Q8_0 的 1.76GB。该模型是基于 Qwen2.5-Coder-1.5B-Instruct 的 abliterated 去审查版本，采用 apache-2.0 许可，评测显示 IF_Eval 45.41、MMLU Pro 20.57、GPQA 26.13。
greenwoodpro 发布晴天 SVG 海报横评，用同一句提示词在 8 个平台、13 家厂商的 24 个模型上各生成一次 SVG，共 59 件作品，全部由模型手写矢量图形，不调用图片生成。作者用 Edge 无头浏览器按原始 viewBox 2× 渲染成 PNG，结论是能当海报用的不超过十张，最好的三张来自 v0 上的 GPT (astra) xhigh、claude.ai 的 Sonnet 5.5 high 和商汤 SenseNova；作品存在同质化重、人物回避正脸、小字排版失控等通病，且思考强度更高不等于更好。画廊托管在 GitHub Pages，仓库附 30 份 SVG 源码，其中 v0 侧 Sonnet 5.5 max 与 high 输出 MD5 相同，系重复导出已合并计数。