新闻、仓库与研究，按时间排列。
一位 r/SillyTavernAI 用户询问 Claude Pro 订阅与 Literouter Ultimate 订阅哪个通过 SillyTavern（需桥接）能获得更多 Claude Sonnet 尤其 Opus 的使用量，并求证 Literouter 是否可靠。他明确表示对非 Anthropic 官方渠道的低价 Claude 订阅（如 Hapuppy）持怀疑态度，帖中未给出结论。
一位开发者在单 GPU 上用 Ollama/vLLM 测试 Qwen 2.5（7B/14B/32B）和 Llama 3.1（8B/70B 量化）处理量化逻辑，发现 8B/14B 模型常输出看似合理但数学上颠倒的数字，32B 用 CoT 略有改善但延迟增至三倍。多智能体辩论中，小模型几乎总会附和首个高置信度错误前提，唯一可靠修复是非 LLM 的 Python 硬编码否决门。作者结论是 LLM 应只作语义处理与路由，算术交给原生 Python。
Xyntetik-Runner 开发者发帖求助：该项目坚持贴近原始模型实现的数值保真度和可复现推理，在保真度上多数模型优于 Llama，但 CUDA 上速度仍明显落后。1.5.0 版本加入了 tensor-core GEMM 路径、tiled attention、CUDA graphs、MoE 优化和量化内核改进，后续修正版将在几天内发布。开发者询问 FP32 高精度是否值得保留。
Reddit r/SillyTavernAI 上有用户发帖讨论当前最佳的大模型前端。发帖者认为 SillyTavern 仍是经典之选，但需要大量调试才能获得流畅体验，并询问大家更倾向哪些更现代、开箱即用、附加组件可选而非必需的替代前端。
微软与 NVIDIA 推出的 Surface 和 RTX Spark 本地 AI 笔记本起售价 $2.6k，128GB 统一内存型号接近 $7k，高内存成本正在把普通开发者挡在门外。发帖者称测试了 qwen3.6-27b 和 Kimi K2.5 配合 sumus 在本地管理代码仓库，本地推理有利于隐私和摆脱云端，但这样的价格让自建设备或购买笔记本都不容易。
一位 Reddit 用户分享 Qwen 3.6 35B（Unsloth UD_Q4_K_XL 量化版）的日常使用体验：它不适合写代码、会幻觉，但擅长通用 Agent 任务，如智能家居控制、提醒、传话等。在两张 Tesla P100 上可实现约 120-140 t/s 生成速度、0 上下文约 1000PP 的处理速度。用户认为它速度快、任务专注，但角色扮演能力弱于 Gemma4，希望下一代模型保持速度、更聪明且不要过度偏重编程。
一位 r/LocalLLaMA 网友质疑当前推理 API 的设计：每轮都要把整段对话重发给服务器，由服务端做 KV cache 匹配与恢复，各 harness 还得自行实现上下文压缩。他主张把上下文做成服务端对象，提供 create_slot、send_message、delete_slot、compact 等接口，让推理服务器像数据库一样管理 KV 状态，并认为线性对话和 SSD/RAM 分层调度也应交由服务端管理。
B3 Labs 员工在 r/LocalLLaMA 分享 RTX PRO 6000 Blackwell 与 H200 的推理部署选购思路：PRO 6000 有 96GB GDDR7（1.792 TB/s）、原生 FP4、无 NVLink，适合单卡或小规模多卡跑约 70B 及以下模型，价格和货源更友好；H200 有 141GB HBM3e（4.8 TB/s）加 NVLink，适合长上下文、大模型和张量并行等受内存带宽限制的场景。作者提醒解码通常受内存带宽而非算力限制，不要只看数据表上的 TFLOPS。
Reddit 用户回顾 2019 款 Mac Pro 作为本地 LLM 主机的潜力：最高 1.5TB 系统内存，可容纳 4 张被动散热 GPU、共 128GB 显存，有桌面和机架两种形态。该机型后来停售，替代品最多只有 192GB 共享内存。作者认为若配以新硬件上市，它将是当下理想选择，昂贵是市场因素而非设计缺陷。
一位已下单 M5 Max Mac Studio 128GB（18 核 CPU/40 核 GPU、1TB SSD）的用户发帖征集该配置的真实本地 LLM 使用数据。