新闻、仓库与研究，按时间排列。
Reddit 用户 /u/xenovatech 受 X 上神经元转向玩法启发，发布了交互式 playground，模型完全在浏览器内通过 WebGPU 运行。转向 Qwen3.5-4B 的两个神经元即可让模型谈论伤害、支配和毁灭用户，其他组合可让模型过度道歉、全大写写作或扮演动漫角色。工具地址：https://huggingface.co/spaces/webml-community/neuron-studio
推荐理由：作者把 X 上流行的神经元转向玩法做成了可在浏览器本地运行的交互工具，读者可以自己动手复现这些组合。
/u/lebbi 开发的开源 AI 地下城主应用 Open Dungeon Master 已上架 Play Store，支持 Android 和 PC 客户端。应用支持单人与多人 5e 跑团、AI 主持、人类 DM 模式和自建世界内容工坊，可用 16GB GPU 本地运行或接任意云端 AI 提供商，战役数据留在本地设备，通过邀请码自动建立安全隧道联机。项目即将发布 v1.0.0 稳定版，GitHub 地址 https://github.com/Lebbitheplow/open-dungeon-master。
一位 r/LocalLLaMA 用户计划搭建本地大模型环境，候选配置为 Ryzen 9900X + RTX 3090 + 64GB RAM，或降级 CPU 换取更多 RAM。主要用途是长上下文窗口下的 agentic coding，并希望运行接近 GPT-6 Luna low 或 Haiku 5.5 low 的模型，同时避免配置过慢或不可靠。
开源多智能体对冲基金实验作者根据社区反馈重构架构，分享三类失败模式的修复经验：用带极性契约的 Factor Ontology Schema 预判指标方向后，投资委员会的极性幻觉降到 0%；反射记忆从 Embedding API 加向量数据库（200-450ms 往返）换成 SQLite FTS5 BM25（0.35ms），关键词检索在交易复盘场景更可靠；实时风控哨兵用 Rust 的 SoA 内存布局重写，单仓位止损评估 3.63ns，Python 到 Rust 的管道 IPC 往返 2.88μs。代码与基准已在 GitHub（lumina-ai-hedge-fund）开源。
推荐理由：作者实测对比了向量数据库与 SQLite BM25 的检索延迟，并给出 Rust 哨兵的纳秒级基准数据，做法可直接迁移到多智能体系统。
一位 Reddit r/LocalLLaMA 用户询问如何在 PolyStrata 中加载不同的微调模型。直接用 --gguf-dir 时必须声明基座模型架构，且显示的是原始模型名（CyberTiel 的 tiel 架构被显示为 TielCoder）；手动改 JSON 和 config 文件虽部分有效，但换用 ./setup.sh 之外的启动脚本会出问题，用户希望找到更干净的自动生成正确名称与配置的方法。
一位 r/LocalLLaMA 网友晒出总价 3360 美元的主机配置：Threadripper 3960X、三块 GPU 共 44GB VRAM（2x 16GB 4060 Ti + 1x 12GB 4070）和 256GB DDR4 四通道 3200MHz 内存，此前运行 QWEN 3.8 27B 256K Context 效果满意。他询问该配置跑 Deepseek 4.1 和 GLM 的 token 速度，并表示优先跑大模型而非速度。
Reddit r/LocalLLaMA 用户 boro64 发布 Ternary Nemotron 30B-A3B 的 GGUF 量化模型，这是一款 1.58-bit 三值 30B-A3B MoE 模型，可在 12 GB GPU 上运行 368K 上下文。实测解码速度 172 tok/s、prefill 超 7000 tok/s，同一文件兼容原版 llama.cpp（b11555+、b11796 验证）和 PrismML fork / Bonsai（b10793 验证）。作者称这是继 maple-preview 后第二个支持原版 llama.cpp 的三值 MoE 模型，并征集 CPU-only 和约 10 GB 小显存的测试数据。
开发者 /u/pikadhu 发布了 Claude skill「model-cache-cleaner」，用于查找并安全清理本地 AI 工具占用的存储空间。macOS 常将 .cache 隐藏为系统文件导致空间难排查，该 skill 为每个本地 AI 工具内置自定义指令来清理无用存储，项目在 Reddit r/LocalLLaMA 发布并开放 issue 和 PR 反馈。
一位用户在 N1X 128GB（88GB VRAM）Windows on Arm 设备上，通过 WSL3/Ubuntu-26.04 调优 Qwen3.8-Flash-Next-W4A16-AutoRound-hybrid 模型并取得满意结果。虽然生成速度（tk/s）不算最快，但面向智能体的并发表现好于预期。
开发者推出 ThousandML 平台，用自研免校准量化 CQ 4-bit 做 QLoRA 微调以降低 GPU 成本。在 Qwen3.8-27B 的 Alpaca 微调对比中（单张 NVIDIA A40 48 GB，LoRA r=32、500 步），CQ 最终验证损失 1.0315 优于 Unsloth NF4 的 1.2484，且峰值显存略低，但每步耗时 27.60 s 远慢于 NF4 的 3.20 s，速度仍在优化中。已发布 thousandml/Qwen3.8-27B-CQ-4bit 等多个 CQ 4-bit 底座模型及复现脚本。
/u/ironical 开源了基于 LLM 的游戏 Breedhaven University，可在 itch 免费下载，含 20 个角色的动画 NSFW 内容，需搭配 LLM，ComfyUI 可选，主要在 Opus 4.6 和 GLM 5.2 上测试。作者总结工程心得：游戏状态尽量由游戏侧决定，扫描 LLM 回复触发函数比让模型自行决策更可靠；用特质、提示词和好感度数值门槛拒绝不合格回复并自动重提示；视频生成每段需 2-3 分钟，实时生成尚不可行，只能预生成。
一位 Reddit r/LocalLLaMA 用户用 8x T4 服务器部署 Qwen 3.5-9B Q5_K_XL，实现 87k 上下文、44 个 slot、单用户 35-40 tps，现想用 QLoRA 微调约 500 GB 的图像、扫描件、PDF、Word/Excel 数据。他持有 Mi50、V620、3060 等多块显卡但多台主板存在启动兼容问题，纠结于 3060 组合还是单价约 700 美元的单卡 R9700，并询问 unsloth 是否支持 Intel GPU。
Reddit 用户 vibe coding 了一个 Llama Swap 的安卓 APK 控制器，可在手机上查看日志、监控 PC 性能，比移动浏览器上的 Llama Swap 界面更好用，playground 功能也能正常运行。作者称应用已在其设备上测试通过，并邀请社区试用与批评，这是其首次开发此类项目。
作者在 RTX 4090 24 GB + 48 GB RAM 的 Windows 机器上对 Strata 0.1.43 运行 Qwen3.8-Flash-Next IQ3_S 量化包做了系统性网格调参，附完整 JSON 配置。三个关键参数 --adapt-async 1、--kv-resident 20480、STRATA_ADAPT_LAG=2 合计把 160k 上下文下的解码速度提升 45%；同时给出负面结果，--expert-cache 按 MiB 而非槽位设置（填满显存时 −72%）、--ple-io ram 在 48 GB 下 −90%、--no-prefill-borrow −46%。
推荐理由：作者用自建 A/B 测量流程在 RTX 4090 上逐项测了 Strata 各参数的真实增益与坑位，附完整可用配置。
用户在 Epyc 7402P、256GB DDR4 ECC 3200 八通道内存平台上测试了四张 R9700 运行 Strata 和 DeepSeek Flash-V4.1-1017 IQ2_XS，发现受 R9700 内存带宽偏慢影响 prefill 环节最耗时，且系统内存占用偏低。Radiance 曾将 Flash Next 在 R9700 上的 prefill 和 tok/s 性能提升 3-4x，Niko 表示该优化将很快进入 Strata。
Reddit r/LocalLLaMA 用户咨询：以 550 美元购入 Dell PowerEdge R820（4x Intel E5-4640 CPU、768GB ECC RAM、2x 146GB HDD）并加装 GPU，用于大模型推理是否划算。考虑到 DeepSeek MoE 模型激活参数已降至 8b/16b，他想验证这种单机大内存方案是否可行。
Reddit 用户发布针对 Jetson AGX Orin 64GB 优化的 Strata v0.1.45 分支，主要运行 Qwen3.6-35B-A3B。在 llama.cpp 中启用采样 MTP-2 后，短提示测试解码速度达到约 40-41 tok/s，高于 MTP-3 时的约 21 tok/s 和早期 Strata 的约 30 tok/s。该分支还包含统一 INT8 KV cache、prefix checkpoints 和可选 KV 预分配，作者称结果来自自用环境并寻求反馈。
开发者发布 Vocs，一款在 macOS 上用 whisper.cpp（large-v3-turbo）完全本地运行 Whisper 的听写应用，可将文本粘贴到任意应用。音频按静音边界分块边说边解码，短片段按实际长度开窗解码约提速 8 倍；还做了 [BLANK_AUDIO] 等音效标签剥离、重复循环检测重试、Rust 后处理（标点、大小写、口语命令、自定义词典）及约 120 MB 本地语法模型。转写路径无网络请求，macOS 13+，MIT 协议，基于 Tauri 和 Rust，源码在 GitHub。
推荐理由：开发者给出了流式分块解码和短片段约 8 倍加速等具体实现细节，本地语音听写方案有可参考的工程做法。
/u/nathannguyennng 解锁了 RTX 3080 20GB 的 reBAR 与 P2P，/u/No-Refrigerator-1672 在双卡张量并行下用 vllm 0.32.0 实测验证。8k 到 261900 token 长度的 prompt 预填充速度较原厂提升 71%-115%，其中 P2P 相对仅 gpu_unlock 另有最多约 70% 提升；开启 MTP 后 decode 速度基本在噪声范围内无明显变化。作者提示 3080 用户在长 prompt 场景（含 agentic coding）可关注该解锁，且需双卡均有完整 PCIe 连接才能获得同等收益。
推荐理由：作者实测了 reBAR 与 P2P 解锁在双 RTX 308 20GB 张量并行下的 TTFT 与 ITL 数据，可看清该解锁对长上下文预填充的实际收益边界。
一位开发者在 r/LocalLLaMA 分享了自研本地 AI 一体化应用 Hutash：它类似 ComfyUI 但无需复杂节点，内置自研引擎，提供 Openart AI 风格的免费工作室体验、Pinokio 式应用商店，并自定义 .hutash 模型包格式，字幕、播客等垂直应用可共享模型资源，还支持 CLI 和 MCP 以实现自动化与智能体调用。团队仅两三人且缺乏反馈回路，现已发布数个版本但不知该往哪个方向聚焦，怀疑自己是否过度工程化。
一位 LocalLLaMA 用户在 r/LocalLLaMA 询问 KV cache 量化的实际影响：其通过 strata 运行 qwen flash next 3.8 iq3xxs，KV cache 用 q8、262k 上下文，想扩到 300-400k 但显存不够，担心 q4 cache 质量下降。评论区多推荐 8k4v 方案，发帖人表示将尝试，否则维持 q8。
韩国独立开发者 /u/RespondImpressive172 发布 Thea（thealibrary.org），一个本地模型可经 MCP 查询的免费知识库，含约 107 万条地点条目（以韩国为主）、人物、作品和组织，数据 CC BY 4.0，每条标注来源与作者类型。
/u/Inside-Pen-8395 在 24GB M5 MacBook Air 上以 Splash 1.4.0 的约 800 行 fork 运行 Qwen3.8-Flash-Next Q2 量化，24,576 个专家槽位中约 6,800 个驻留 ~8.8 GB 内存，其余从 SSD 按需流式读取，支持 256K 上下文，解码平均 48.8 t/s（stock 为 28.8）。
推荐理由：作者实测了 Qwen3.8-Flash-Next 在 24GB 内存下的 SSD 专家流式方案，给出解码速度、预填充和 LiveCodeBench 对照数据。
一位 SillyTavern 新用户反馈，使用 Argon 模型时缓存命中率时好时坏，其他人也有类似问题。他将上下文窗口设为 60000，并询问当聊天记录填满、旧消息被移除时缓存是否会失效，以及是否有办法在同一聊天中继续使用。
anujj 向 ggml-org/llama.cpp 提交 PR #29948，在 MMQ 中以交错 gate/up 行的方式融合 FFN gate/up matmuls 与 GLU。
Reddit r/LocalLLaMA 用户分享在 2 x CMP 170HX 上运行 Qwen 3.8 Flash Next 的配置方案，称兼顾质量与性能，并致谢社区支持。作者未在帖中给出具体 benchmark 数据，配置细节需查看原帖。
开发者 /u/Jingoo00 发布开源自托管 Web 应用 Angmoo，为 AI 角色搭建社交网络，采用 GPL-3.0-only 协议。角色可导入 SillyTavern PNG/JSON 角色卡，开启自主活动后在设定时段自动发帖互动；支持聊天、记忆检索、角色关系追踪和图片识别生成。提供 Windows x64 安装包和 amd64/ARM64 Docker 镜像，ARM64 Android 经 Termux 支持（实验性）；文本生成目前仅支持 Gemini 3.1 Flash-Lite 和 Gemini 3.5 Flash-Lite，需自备 API key，本地模型暂不支持。
推荐理由：作者本人详述了自托管角色社交网络的部署方式与记忆、自主活动机制，并坦承当前局限，适合想自建角色生态的读者参考。
一位 r/SillyTavernAI 用户反映 SillyTavern 的向量存储把旧聊天的记忆带入新聊天，尝试 "Purge Vectors"、直接删除文件和编辑 .json 文件均无效，旧记忆仍会恢复。用户附上了扩展列表求助，并补充该问题仅在开启 "Enable for files" 选项时出现。
开发者发布个人开源项目 celine-net，一个自托管 AI Agent，运行在自己的 Linux 环境中，可执行终端命令（tmux 封装）、使用类 computer-use 的浏览器实时浏览网页、记录笔记、定时运行例程并通过子 Agent 执行长任务。用户自带模型（llama.cpp、ollama、openrouter 等），可接入 Discord 和 WhatsApp，作者使用 qwen 27b、gemma4 和 qwen-flash-next，并提醒注意隐私与安全风险。
一位 LocalLLaMA 网友晒出由 4x 5060ti 16GB、4x 3060 12GB 和 256GB DDR4 3200（4 通道）组成的推理平台，成本与 DGX Spark 相当。其规划是 5060 组 TP4 接 pipeline 到 3060 组，把不常用的专家卸载到内存，engram 放 NVMe SSD，询问此方案能否高速高精度跑大 MoE 模型，还是远逊于统一显存/内存架构。
一位用户在 r/LocalLLaMA 询问，€250-€300 购入两台改装 Dell Precision T5810（分别配 Xeon E5-2699 v4 22 核与 E5-2698 v4 20 核）加 32GB DDR4-2666 RDIMM 和 NVMe 转接卡，用于搭载其 Gigabyte RTX 3090 24GB 跑 llama.cpp 与 Strata 推理。计划先本地运行 Qwen 3.8 27B，后续扩至 128GB-256GB 内存以卸载约 120GB 的 Qwen 3.8 Flash Next MoE，目标 20+ tok/s；第二台兼作孩子的 Linux 学习机与 Proxmox 节点。
/u/MrFelliks 开源了浏览器节奏跑酷游戏 Struna，用四个小神经网络在浏览器标签页内本地听歌生成关卡，无需上传音频。四个模型共约 22 MB，经 onnxruntime-web（WASM、各占一个 web worker）运行：BeatNet（约 1.6 MB）做节拍与强拍追踪并作为关卡网格，Spotify 的 Basic Pitch（约 0.2 MB）做音符转录，Spleeter 人声分离网络（约 20 MB）分离人声，SwiftF0（约 0.1 MB）做 16 ms 精度的音高追踪；首次加载后缓存，设备跑不动时回退到常规 DSP。
Reddit 用户 /u/TheSpicyBoi123 发布改进 llama.cpp 对 Kepler 等 Ampere 之前 NVIDIA GPU 支持的高性能分支，目标是让旧 CUDA 硬件继续可用。在 4x Tesla K40c 上以 Q8_0 量化运行 MTP Qwen3.6-35B-A3B，从原先无法启动提升到 35 tps，修复主线上 cc35-50 的 cuBLAS 计算类型选择问题；启用 CUDA graphs 后达约 55 tps，Windows NCCL 集成带来约 5–10% 端到端提升，吞吐超 60 tps，P.P. 速度在 70-100 tps 之间波动。作者声明这是其个人系统的初步结果，并征集 Kepler、Maxwell、Pascal、Volta 等旧卡用户对比测试。
推荐理由：作者用 4 张 Tesla K40c 实测给出量化前后与启用 CUDA graphs 的速度对比，老卡复用方案可自行复现验证。
开发者 Marcel 发布个人离线本地 AI 助手 Poldi，以语音为交互界面，支持唤醒词免提客户端与浏览器客户端，采用 GPLv3 开源。技术栈为 Whisper.cpp 做 STT、llama.cpp 做 LLM 推理、Piper 做 TTS，支持英德双语、记忆注入、联网与 Wikipedia 搜索等功能，可在 16GB VRAM 的 Nvidia 5060 Ti 上运行，8GB VRAM 甚至 CPU 也可用。
Reddit 用户更新了 ik_llama.cpp fork，并寻求社区反馈。该实现在 6GB 显存的 RTX 2060 上运行 Qwen3.6-35B-A3B-UD-Q4_K_M，短提示词生成约 45–48 t/s，28K 上下文约 37 t/s，prefill 约 430–700 t/s。由于反馈太少且代码需拆分清理，作者暂不合并到主线。
网友在 RTX 5090、64GB DDR5 和 Lexar 4TB NVMe 的 Windows 10 机器上，用 Strata 以 8K 上下文跑通 DeepSeek V4.1 Flash，速度约 10 tok/s。作者称按此速度用 API 比付电费更划算，但仍对模型能在本地 PC 上运行感到兴奋。
作者发布自研双卡推理引擎 capy-flash v0.7.4，面向两张 RTX 50 系显卡在 Linux 上做张量并行，支持 Qwen3.8-27B 和 Qwen3.8-Flash-Next。在 2× RTX 5070 Ti 上，Flash-Next NVFP4 解码 178 tok/s、64k prefill 4,828 tok/s，对比 Strata 0.1.45 双卡 NVFP4 短提示词约快 1.5 倍、平均约 1.76 倍；27B 双卡 NVFP4 DFlash2 验证解码 379 tok/s。
推荐理由：作者在同一台机器上给出与 Strata 的逐项对比数据，双卡 NVFP4 场景的提速幅度和适用边界都写得很具体。
domyn edge 模型类似 Qwen，可在游戏 GPU 上高效运行，也支持服务端推理，完全开源并附带训练基础设施，无特殊授权限制。相比其默认的 nginx，Ramjet 带来显著加速，多智能体会话最高提速 61%。
Reddit r/LocalLLaMA 用户提醒，从 SSD 流式读取 n-gram 表会带来读取扰动：TLC/QLC SSD 频繁读取相邻单元会逼近 ECC 限制，控制器会通过 read reclaim 迁移整页数据，使读取最终转化为写入。文中示例显示某单元被读取 54K 次即触发迁移，建议用 SMART 计数器监测 "data units written" 或 "LBAs written" 的增长。
一位 Reddit r/LocalLLaMA 用户求购 7-10 万美元硬件方案，用于运行 GLM5.3 和 DeepSeek Flash 1017，支持 10-20 名用户并发执行智能体任务，每人约 500k tokens 上下文，并希望配置便于后续扩展。