用本地 Agent 全权管理活期账户？RTX 5000 Pro 上的实践分享
一位 Reddit 用户在 RTX 5000 Pro 上本地运行 Qwen 3.8 27B NVFP4，让智能体全权管理活期账户：付款、查账单、推荐供应商、追踪客户回款、记账并撰写合同，已使用 2 个月。账户中只保留不足一个月收入的零头，其余直接转入储蓄账户，数据完全留在本地。
#Qwen
新闻、仓库与研究，按时间排列。
Reddit · r/LocalLLaMAAI 评分1818 Reddit · r/LocalLLaMA精选AI 评分6262 
2-bit QAT 改写 24GB 显存本地部署格局：Nemotron 3.5 Bolt 74B 与 Liquid LFM2.5-24B-A2B 实测分析
Reddit 用户 BTA_Labs 实测 Nvidia Nemotron 3.5 Bolt 74B-A9B（原生 2-bit QAT，Mamba-2-Transformer 混合 LatentMoE，9B 激活）与 Liquid AI LFM2.5-24B-A2B（24B 总参数、2.45B 激活、131k 上下文），认为 Q4 以下量化必掉智的老规则在 QAT 和混合架构下需要重写。
推荐理由：作者实测了 Nvidia 2-bit QAT 74B 与 Liquid 24B-A2B 在 24GB 显存下的表现，给出了 PinchBench 具体分数对比。
Hugging Face · 新模型：abliteratedAI 评分2222 DOLGX 发布 QwQ-32B-Preview-abliterated：去审查版 QwQ-32B-Preview
DOLGX 基于 abliteration 技术发布了 Qwen/QwQ-32B-Preview 的去审查版本 QwQ-32B-Preview-abliterated，可在不使用 TransformerLens 的情况下去除模型拒答行为。该实现为概念验证性质，用户可通过 Ollama 直接运行 huihui_ai/qwq-abliterated 使用。
Reddit · r/LocalLLaMAAI 评分5252 
Qwen3.8 Flash Next Unsloth 量化版实测：芬兰语能力随量化明显下降
/u/MarkoMarjamaa 用 Project Lönnrot 三本芬兰语书、Project Gutenberg 同源英语书和 wiki 语料，实测 Qwen3.8 Flash Next Unsloth 各量化档的 KLD 与 top-1% 差异。结果显示芬兰语受量化影响明显，Q8 时 KLD 已远超 0.02 的可察觉阈值；其自测的混合（chimera）模型把 Unsloth Q4 换成 Q8 级 n-gram，效果介于 Q4 与 Q5 之间，且 n-gram 从磁盘读取不占内存。原文链接：https://www.reddit.com/r/LocalLLaMA/comments/1x6kw7k/
Reddit · r/SillyTavernAIAI 评分1818 Mimo 2.6 pro 文笔表现平平，用户求提示词技巧
一位 Reddit 用户称 Mimo 2.6 pro 虽然整体不错，但文笔质量一般，达不到社区所说的 Claude 或 argoon 水准。该用户尝试 RF 等提示词均无效，认为长提示词不适合该模型，发帖征求有经验者分享提示词与使用技巧。
GitHub · 去对齐工具与仓库AI 评分1616 Anvil-Q：开源 W4A16 AWQ 量化 LLM 推理加速器 RTL 项目
Anvil-Q 是基于 Vulcan 0.8 开发的量化因果 LLM 推理加速器系列，将 HuggingFace AWQ 混合精度模型规格转化为可综合 SystemVerilog RTL、自检验证套件和可复现交付包。
Reddit · r/LocalLLaMAAI 评分1818 Qwen4 会是 Intel Optane 上的理想选择吗？
Reddit r/LocalLLaMA 上有讨论猜测 Qwen4 是否适合搭配 Intel Optane 使用。文中提到 qwen3.8 flash next 针对小显存大内存场景优化，Strata 则优化了向 SSD 的 offloading，并探讨 Optane 能否成为受 DDR4 高价困扰的 homelab 的解决方案。
Reddit · r/LocalLLaMAAI 评分1818 Reddit r/LocalLLaMA 讨论：Qwen 27b 与 Qwen Flash 的 prefill 速度优化
一位 M3 Max 用户在 r/LocalLLaMA 发帖称，Qwen 27b、Qwen Flash Next 等定制模型的 decode 速度已提升，其 QFN 运行达 40tk/s，但 prefill 进展停滞。他尝试用 QFN 优化层/注意力传播并近似 KV cache，将 prefill 从 400tk/s 提到约 850tk/s（约 2 倍），但 needle 测试准确率明显下降，发帖询问是否有人在研究更聪明的 prefill 加速方案。
GitHub · 3D 生成新仓库AI 评分4646 Supra-3D 开源 Supra-Tex：单张 RGB 图像生成可重新打光的 3D 纹理网格
Supra-3D 在 GitHub 开源 Supra-Tex，可将单张 RGB 图像转为带纹理的 3D 网格，输出含 base color、metallic 和 roughness 贴图的可重新打光 GLB。项目仅用开源数据训练，性能与商业系统相当或更好，包含 2.1B 参数的 3D completion 模型（MIT 许可）和 33.6M 可训练参数的 Material Adapter（基于 Qwen-Image-2.1，Qwen Research 许可，非商业研究用途）。
Reddit · r/LocalLLaMAAI 评分5454 Qwen3.8 27B 16GB 显存 KV 量化实测：21 个模型 9 种量化共 189 组基准
Reddit 用户 /u/Fancy-Snow7 对可装入 16GB 显存的 Qwen3.8 27B 量化组合计算 KLD 与困惑度，覆盖 21 个模型、9 种 KV 量化共 189 组基准。结论是 q5_1/q5_1 几乎总是优于 q8_0/q4_0 或 q4_0/q8_0，而后两者差异很小；模型量化升一档跑 q4_0/q4_0 在 KLD 上几乎总优于低一档配 f16/f16，建议先选最高可用模型量化，再视余量提高 KV 量化。作者提醒该结论适用于较低量化，从 q6 升到 q8 时提高 KV 量化收益可能更大，且不适用于 Gemma 等需 f16 KV 的模型；Bonsai 和 swift 量化因属微调，KLD 差异显著，计算意义不大。完整基准数据见评论区。
Hugging Face · 新模型：uncensoredAI 评分2222 mradermacher 发布 Qwen3.5-4B-Claude-3xMerge-Jackrong-UNCENSORED-heretic 的 i1-GGUF 量化版本
Hugging Face 上架了 mradermacher 制作的 Qwen3.5-4B-Claude-3xMerge-Jackrong-UNCENSORED-heretic 的 i1-GGUF 量化版本。该模型基于 Qwen3.5-4B，为去审查（uncensored）合并模型，仓库页面未提供详细模型卡信息。
Reddit · r/LocalLLaMAAI 评分1818 
鸡棚旁小屋里的 AI PC：4 张 CMP 170HX、256GB VRAM 本地跑大模型
一位 r/LocalLLaMA 网友分享了自己放在鸡舍旁小屋的本地 AI PC：从单张解锁至 64GB 的 CMP 170HX 扩展到 4 张共 256GB VRAM，搭配 32 核 Threadripper、TRX40 主板和 256GB DDR4 内存，并加装 3050 用于视频/RDP。因噪音和散热问题从衣柜迁入带空调的独立小屋，目前用两张 170HX 跑 QFN、第三张跑 Qwen3.8-27B，正在下载 GLM 5.3 Flash EXL3 4.65 bpw 测试 4 卡运行，并期待 Qwen4 的表现。
arXiv · cs.AIAI 评分5151 HP-RLVR：无需组采样的单 rollout token 级信用分配方法发布于 arXiv
Wei Chen 等人在 arXiv 发布 HP-RLVR（Hindsight-Privileged RLVR），用已完成轨迹自身的未来信息生成 token 级更新权重，替代 GRPO 的组采样。方法对每个 token 在因果历史与含验证器反馈的后见上下文两种视角下打分，以归一化 Jensen-Shannon 散度加权奖励，成功与失败轨迹都有有界信用，无需参考答案或 critic。在共享 100 步 schedule 的 Qwen3-8B 配对实验中，HP-RLVR 在数学、代码生成和 ALFWorld 上分别比 GRPO 快 1.21x、1.46x 和 2.30x，每 prompt rollout 用量为八分之一；总体准确率相当，数学上 HP-RLVR 领先，代码与 ALFWorld 上 GRPO 领先。
arXiv · cs.AIAI 评分4242 CriticOPD：通过批评引导的在线蒸馏恢复可靠监督
论文提出 CriticOPD，改进在线蒸馏（OPD）。OPD 假设教师模型能从学生写的任意前缀推出正确答案，但该可恢复性在错误 rollout 上失效——教师会跟随学生错误。CriticOPD 让教师对错误 rollout 给出批评，学生据此重写解答，教师评分时将批评作为特权信息，学生训练时则不含批评。在两个 Qwen3 学生模型和六个数学推理基准上，CriticOPD 均优于 OPD，竞赛题提升最大。
arXiv · cs.CLAI 评分4747 TreeSpark：为推测解码学习“可验证的”草稿树
TreeSpark 是一个扩展 DSpark 半自回归架构的推测解码训练与推理框架，通过单次 backbone 前向构建父节点条件候选树，并用 survival NLL 与 capped coverage hinge 两个目标监督树的扩展、剪枝与打包，无需额外 target 前向。在 Qwen3-4B 与 Qwen3-8B 上的九个通用基准和六个写作域评测中，TreeSpark 较 DSpark 将平均接受长度提升 23.4%–31.6%，单请求吞吐提升 15.1%–25.0%，批量 Qwen3-4B 吞吐提升 12.6%–17.2%。
arXiv · cs.CLAI 评分5050 HICO-Bench：从可验证结果衡量社交智能体的交互有效性
arXiv 论文提出 HICO-Bench，包含 180 个日常协调场景，通过程序检查 Feasibility、LLM judge 检查 Integrity 来判定 Verified Success。测试 13 个 LLM 发现 36% 被评为高目标完成度的对话无法通过 Verified Success。论文还提出 PaCPO 方法，将 Qwen3-8B 的 Verified Success 从 20.4% 提升至 28.3%。
arXiv · cs.CLAI 评分4343 面向类型化决策模型的选择性推理：何时开始、读取与停止
研究在冻结的 Qwen3.5-4B 骨干上训练共享候选答案读取器，统一直接决策与按需可中断推理，通过 benefit gate 启动推理、自然状态触发显式读取、熵规则接受答案并取消生成。在 ProofWriter、LogiQA 2.0 和 ARC-Challenge 共 768 道题上，准确率从直接读取的 70.96% 升至 84.38%；相比 512-token 终端读取提升 7.29 个百分点、平均输出开销仅增 2.25%，相比 1,024-token 终端读取流水线时间下降 46.30%。
arXiv · cs.CL精选AI 评分5252 SRP-SFT：通过选择性边距保持改进监督微调
论文提出 Selective Rank-Preserving SFT（SRP-SFT），用基于参考缩放下界的 hinge 软目标在 teacher-forced 前缀处保持选定的非目标 token 边距关系，并推导了违反边距的 KL 代价、可行域及有限步降低总违反的条件。在 Qwen3-4B-Base 与 UltraFeedback 的一轮实验中，三个训练种子下 MATH-500 和代码生成分数均超过 CE 与 LP-SFT；种子 1234 下 MATH-500 pass@1 从 49.56% 升至 54.56%，四指标代码均值从 65.91% 升至 69.50%。论文还给出排序对照、held-out 缓存诊断、敏感性扫描及六个额外骨干上的验证。
推荐理由：论文给出 SRP-SFT 的可行域刻画与多种子实验数据，读者可对照 CE 和 LP-SFT 评估该微调目标的实际收益。
arXiv · cs.CLAI 评分4545 Qwen-MT-Lumen 参加 WMT2026：基于质量感知训练与在线蒸馏的指令专用翻译
阿里团队推出开源翻译模型 Lumen，参加 WMT 2026 通用机器翻译任务，专注满足术语、风格和结构化输出等细粒度指令要求。模型基于 Qwen3-14B，采用四阶段流程：继续预训练与监督微调、将 M²PO 扩展为在线偏好优化、从更大教师模型做 on-policy 蒸馏，以及结构感知推理与修复。在 23 个翻译方向上，按 1–5 分 LLM-judge 评分取得 4.60 的总体均分，表现与领先闭源系统相当。
Reddit · r/LocalLLaMA精选AI 评分6868 
三台 4x R9700 本地推理机实测：单机约 $10.7k、共 384GB VRAM，附完整配置与 vLLM 吞吐数据
Reddit 用户 /u/NickReese 分享了三台 4x ASRock Radeon AI PRO R9700（32GB）本地推理机的搭建与实测，单机含税运费约 $10,733.91，采用 $127.17 的二手 EPYC 7452 替代 Threadripper，三台共 384GB VRAM，用于其枪械行业信息业务 USA Arms 的数据抽取。推理栈为 vLLM-Radiance 1.0.387（vLLM 0.30.0、ROCm 7.14），每台跑两个 TP=2 引擎运行 Qwen3.8-27B-FP8，FP8 KV cache 加 MTP 8 draft tokens；16 用户 MT-Bench 聚合 484 tok/s，32K 上下文预填充 6,696 tok/s。
推荐理由：作者给出三台 4x R9700 本地推理机的完整 BOM、vLLM 实测吞吐和 FP8 与 MXFP4 的准确率对比，数据可直接用于自建参考。
Reddit · r/LocalLLaMAAI 评分4646 Strata 性能微调实战：调参后解码速度提升 15%-20%
Strata 部署较新，作者经大量测试分享多项微调参数：--pcie-frac 设为 0.2、--pool-workers 带来 +10% decode、--trim-stage-weights 提升 +8%、--pipeline-windows 设为 6 提升近 15%，双 RTX3060 下通过 "gpu": [1,0] 强制让 PCIe 快的 GPU 做推理再获 +15%。累计后 Qwen Flash Next IQ3_S 从 35 decode 峰值提升到空上下文 60 tps 平均代码生成，满上下文仍比基线快 15%-20%。
Reddit · r/LocalLLaMAAI 评分3131 Qwen3.8-Flash-Next 能否打破 ESP32 语音助手“8B 太笨、70B 太慢”的困局？
Reddit r/LocalLLaMA 用户讨论用 Qwen3.8-Flash-Next（125B 总参数、每 token 激活 6B、128k 上下文）经 Strata 跑在 12GB VRAM + 64GB RAM 上，作为 ESP32 语音助手本地大脑，实测 44-65 tok/s，提供 OpenAI 兼容端点。该模型为预览版、刻意欠训练，基准分数来自 FP8 而非适配 12GB 的 Q2/IQ3 量化，且需 64GB 系统内存。发帖者询问是否有人实测过 125B 级 MoE 语音助手的端到端延迟。
GitHub · 灵魂体仓库AI 评分2626 
vvctort1/fine-tuning-llm：用 LoRA 微调 Qwen2.5-Coder-7B 做 Text-to-SQL
该项目基于开源模型 Qwen2.5-Coder-7B（约 7.61B 参数，预训练超 5.5T tokens），用 LoRA 微调使其将企业业务术语翻译为 SQL 查询。LoRA 冻结原权重、仅训练约 0.25% 参数，最低需 20 GB VRAM。基线 Execution Accuracy 为 26.5%，训练 2 个 epoch（r=16）后提升，并配有 Gradio 界面支持上传 SQLite 数据库与聊天生成 SQL。
Hugging Face · 新模型：uncensoredAI 评分3636 
Qwen-Image-2.1-Uncensored 量化版发布，支持 ComfyUI 本地图像生成
Dariusdup 在 Hugging Face 发布 Qwen/Qwen-Image-2.1 的 Uncensored 量化版本，提供 GGUF、Safetensors 和 MLX 格式，其中 Q4_K_M GGUF 为 4.60 GB 并被推荐为体积与质量的最佳平衡。该版本无内置安全检查或内容过滤，可直接生成成人及 NSFW 图像；配套 qwen3vl_8b 文本编码器与 VAE 文件，通过 ComfyUI 与 ComfyUI-GGUF 使用，文本编码器可卸载到系统内存以节省 9–17 GB 显存。
Hugging Face · 新模型：uncensoredAI 评分2323 zviratko/Qwen3.8-Flash-Next-Uncensored-plefp8 发布
zviratko 在 Hugging Face 发布 Qwen3.8-Flash-Next-Uncensored-plefp8，基于 ddark-il/Qwen3.8-Flash-Next-Uncensored 的量化权重，并移植了 FP8 PLE n-gram 表。作者称该实验性模型在 intelligence benchmark 上与原量化模型结果基本相同，主观上保持连贯，但更小损失的 PLE 表数据效果未知。模型采用 Qwen Community License 1.0，使用前需查看附带许可证。
Reddit · r/LocalLLaMA精选AI 评分6363 
Sabi-Noema：面向能力与效率的 Qwen 3.8 27B 微调模型发布
作者发布两个 Qwen 3.8 27B 后训练版本 Sabi-Noema 和 Sabi-Noema-MLA，仅用开源环境训练，声称在 <30B 模型中提升编码、Agent 和工具调用能力并降低幻觉率。Sabi-Noema 在 DeepSWE 上超过 GPT 6 Luna-medium，在 TB2.1、Tau-3 bench、ClawEval、BFCL v4 上超过 Luna-high，比基座 Qwen 在 TB2.1 少生成 50% token、在 DeepSWE 少 25%。
推荐理由：原文给出了 token 减量和 KV cache 压缩的具体数字，还附带 24GB 显卡上的上下文对比，便于评估实际收益。
Reddit · r/LocalLLaMAAI 评分2222 
Qwen 3.8 Flash Next 与 DeepSeek-V4 Flash 对比讨论：速度与质量如何取舍
一位 Reddit r/LocalLLaMA 用户在 128GB M1 Ultra Mac Studio 上对比 DeepSeek-V4 Flash 与 Qwen 3.8 Flash Next 的使用体验。DeepSeek-V4 的 benchmark 成绩略低于 GPT 5.5 high，Flash Next 略高于 5.4/5.5 xhigh，但 Flash Next 完成任务耗时明显更长，大约 5 个任务的时间才能换来 1 个任务的完成度。该用户仍在使用 Qwen 3.8 27b，因其占用资源更少，可腾出机器做图像生成等其他工作。
Reddit · r/LocalLLaMAAI 评分3737 Qwen 3.8 27B 与 Flash Next 125B 同题对比：威胁监测项目的代码评审、测试与双方失败点
同一提示词下，Qwen 3.8 27B 与 Flash Next 125B 分别构建实时网络威胁情报平台（FastAPI、异步摄取、WebSockets、Three.js 地球）。两者均未满足完整需求，但 27B 的代码库更值得修复延续：Flash Next 测试更多（34 通过 vs 16 通过），却出现 Feodo 适配器 5 条记录解析 0 条、DShield 误读列、重复摄取致 count=100 变 200 等数据契约错误。
Reddit · r/LocalLLaMAAI 评分3131 Qwen 3.8 27B 与 Flash Next 125B 在同一威胁监控项目上的代码评测：测试、集成与双方失败点对比
同一提示词下对比 Qwen 3.8 27B 与 Flash Next 125B 构建实时网络威胁情报平台（Python、FastAPI、WebSockets、Three.js 地球仪）。两者均未完整满足提示词；Flash Next 125B 的 pytest 测试 34 通过、27B 为 16 通过，但 Flash Next 多个核心数据契约损坏，如 DShield 适配器把子网前缀 24 当作活动计数。作者认为 27B 的提交更值得修复和继续构建，并强调这是单次产物对比而非受控能力研究。
Reddit · r/LocalLLaMA精选AI 评分6161 
Zellige AI 发布 Tessera-27B-B-CJK：用压缩 CJK 思考以节省 token 的 Qwen 微调模型
Zellige AI 开源 Tessera-27B-B-CJK，一个基于 Qwen3.8-27B 的编码 Agent 模型，以混合英文、中文词汇和符号的压缩 CJK 思考来减少 token 消耗，思考过程与输出分离，回答和工具调用保持英文与代码。在 11 个 held-out 编码 Agent 任务上对比未微调基座：每轮思考 token 降至基座的 0.50-0.64 倍，88 轮匹配测试中工具调用 100% 有效、零重复循环，101K-131K token 提示下 6/6 工具调用有效；竞赛数学和难算法代码弱于基座。训练仅用四个短 LoRA 步骤，基于基座自身输出构建。
推荐理由：原文给出与基座模型同任务对比的思考 token 消耗数据和训练流程，可了解用压缩 CJK 思考省 token 的具体做法。
Reddit · r/LocalLLaMA精选AI 评分6464 
Kokon 开源桌面应用上线：在 12 GB 以上本地 GPU 上运行 Qwen-Image 2.1 实现 GPT-Image 式照片编辑
Reddit 用户 /u/Ok-Director4174 发布了免费开源桌面应用 Kokon，基于 stable-diffusion.cpp（ggml）运行 Qwen-Image 2.1 Turbo Q4_K 与 Qwen3-VL 8B 文本编码器（约 12 GB GGUF），无需 Python 和 PyTorch，首启自动检测 GPU 并下载匹配权重。应用提供 Change / Remove / Replace / Add 的笔刷式照片编辑、撤销与前后对比，内置 MCP 服务器（generate_image、edit_image、inpaint_image 等）和本地 HTTP API。
推荐理由：作者实测给出了各档显卡的单张编辑耗时和显存门槛，本地部署 Qwen-Image 2.1 图像编辑可据此评估硬件是否够用。
Reddit · r/LocalLLaMAAI 评分4242 Qwen3.8-Next IQ3_S 与 Qwen3.8-27B UD-Q4_K_XL 量化模型本地评测对比
Reddit r/LocalLLaMA 用户用 evalscope 对比 Qwen3.8-Next IQ3_S（MI50 32GB）与 Qwen3.8-27B UD-Q4_K_XL（RX 7900 XTX 24GB）。166 题总成绩 Next 151 对 27B 145，AIME26、IFEval、BFCL v4、LiveCodeBench v6 均略胜，但 14 题单解差异 sign test p=0.18，仅属倾向而非定论。速度上 27B 达 47.9 tok/s，Next 为 36.8 tok/s。
Reddit · r/LocalLLaMAAI 评分2222 如何减少大型项目中的频繁 compaction？LocalLLaMA 用户求策
一位 Reddit r/LocalLLaMA 用户在 R9700 上运行 Qwen 3.8 27B 处理大型代码项目时，遇到 compaction 越来越频繁、最终陷入压缩循环无法干活的问题。他改用 Q4_K_XL 量化加 Q8 KV cache，把上下文从 100-150k 提升到 200k tokens，并考虑通过代码索引（函数签名加注释和行号、完整展示 struct）或提高模块化程度来收窄模型关注范围，但尚未找到彻底有效的方案。
Reddit · r/LocalLLaMA精选AI 评分6262 Qwen 3.8 flash 在 12GB 显存加 32GB 内存下跑满 256K 上下文，作者开源 Gyro-M 部署方案
/u/Present_Resource4022 在 GitHub 发布 Gyro-M 实验性部署方案，在 4070 Super 12GB 显存加 32GB 内存上跑满 Qwen 3.8 flash 的 256K 上下文，prefill 约 950–1800 tok/s，输出 30–38 tok/s。方案包含 Strata 补丁、调优配置、模型下载器、安装器和启动器，默认关闭 MTP 和视觉功能以提升速度；作者另附一段提示词，可交给 Codex 或 Claude Code 等编码 Agent 按用户自身硬件调优，速度受 CPU、SSD、内存和 GPU 带宽影响较大。
推荐理由：作者实测 Qwen 3.8 flash 在 12GB 显存加 32GB 内存跑满 256K 上下文，并给出调优补丁和供编码 Agent 适配自家硬件的提示词。
Hugging Face · 新模型：abliteratedAI 评分4141 Huihui-Qwen3.8-27B-abliterated-GGUF：Qwen3.8-27B 去审查版本发布
huihui-ai 基于 Qwen/Qwen3.8-27B 通过 abliteration 技术去除拒绝回复，发布 Huihui-Qwen3.8-27B-abliterated-GGUF 无审查版本，仅消融部分层（如第 22 至 52 层，0 起始索引），其余层保持原样。提供 Q2_K_L 至 Q8_0_L 等多种量化格式，其中低精度版本将 token_embd、output、ffn_down 等需消融权重转回 Q8_0 或 BF16 以提升回复质量；MTP 与视觉部分未改动。可通过 ollama（huihui_ai/Qwen3.8-abliterated）或最新 llama.cpp 运行，支持 -c 262144，模型安全过滤大幅降低，建议仅用于研究测试环境。
Hugging Face · 新模型：uncensoredAI 评分3939 
Qwen-Image-2.1 Uncensored 量化版发布，支持 GGUF/Safetensors/MLX 本地图像生成
Hugging Face 上发布 Qwen-Image-2.1 Uncensored 的多种量化格式，基于 Qwen/Qwen-Image-2.1 原始权重，提供 GGUF、Safetensors 和 MLX 格式，其中 Q4_K_M（4.60 GB）为 GGUF 推荐版本，MLX 格式针对 Apple Silicon 优化。该版本无内置安全检查器，可直接生成成人及 NSFW 图像，需配合 ComfyUI 与 ComfyUI-GGUF 使用，文本编码器 qwen3vl_8b 可卸载至系统内存以节省 9–17 GB 显存。
GitHub · 去对齐工具与仓库AI 评分3333 Viranchi4 开源 nl-sql-assistant：基于 Qwen2.5-Coder 的本地 Text-to-SQL 工具
Viranchi4 在 GitHub 发布 nl-sql-assistant，通过 Ollama 运行本地 Qwen2.5-Coder 3B/7B 模型，将自然语言问题转换为可执行的 MySQL 只读查询，无需付费 API。系统动态检查数据库 schema、用 SQLGlot 验证 SQL 并支持有界纠错重试。在 5 题留出集基准上，3B 模型执行成功率和结果准确率均为 80%，7B 模型均为 100%。
Reddit · r/LocalLLaMAAI 评分1515 Reddit 讨论开源的 Codex computer use 替代方案
一位 r/LocalLLaMA 用户询问是否存在开源的 computer use 替代方案，希望其能像 Codex 一样基于 accessibility tree 和 GUI 截图分析操作，并以鼠标点击作为兜底。该用户目前使用 trycua CUA 搭配 Qwen 3.6 27B，但效果不佳。
Reddit · r/LocalLLaMAAI 评分1616 LocalLLaMA 网友花 300€ 购入二手内存，欲升级到 80GB RAM 跑 MoE 模型
一位 Reddit r/LocalLLaMA 用户现有 4×8GB DDR4 3200MHz CL16 内存，在 7900XT（20GB 显存）上以 IQ4 量化运行 Qwen 27B。他以 300€ 购入 2×32GB 二手内存，计划混插达到 80GB RAM，以便用 Q8 量化运行 MoE 模型，并向社区求证该方案是否可行。
Reddit · r/LocalLLaMAAI 评分3030 用二手件组装双 RTX 3090 本地 LLM 主机，为何速度提升不及预期？
一位 Reddit 用户用二手硬件组装了双 RTX 3090（24GB）本地 LLM 主机，搭配 Ryzen 9 5950X 与 128GB DDR4 内存，运行 Ubuntu 24.04 和 llama.cpp。第二块 GPU 经 riser 接在 PCIe 3.0 x4，测试 Qwen3.6 35B A3B 的不同 GGUF 量化时发现：能装进单卡的模型加第二卡收益有限，长上下文下 prefill 明显变慢，尚未做受控 benchmark，正在排查 KV cache、内存带宽与 GPU 通信的影响。