跳到正文
#Reddit
10月15日周四
  2. Reddit · r/LocalLLaMA58

    用户实测 Basalt 让 5060 Ti 16GB 跑出 75 tok/sec

    Reddit 用户 /u/ironicstatistic 发帖感谢 Basalt 作者，Basalt 是面向 Blackwell 硬件的 Strata 分支。作者用 5060 Ti 16GB 加 32GB 内存在 128k 上下文下跑出 75 tok/sec 生成和 1200 prefill（q2 量化模型），代价是 KV cache 需用 q4 且系统仅剩约 5GB 内存可用；还请 deepseek4 帮忙加了 build flag 来分配更多内存。作者称 Basalt 作者曾主动联系解答问题，项目地址为 https://github.com/jesdga95/basalt。

    推荐理由：作者给出了 16GB 显存加 32GB 内存的实测吞吐和 KV 量化取舍，低配 Blackwell 用户可据此预估自己的可行配置。

  3. Reddit · r/LocalLLaMA16

    预测：Photoshop 被克隆后，前沿 AI 将在几个月内被严管，本地 AI 或成高级编程的地下渠道

    一位 Reddit r/LocalLLaMA 用户预测，在 Photoshop 被克隆后，立法打击将在几个月内终结面向公众的前沿高级编程 AI，高级编程能力将只保留给企业和政府。作者称 CIA 会监控囤积大量 AI 硬件以实现"类前沿能力"的人，现有 Photoshop 克隆类产品将被新立法取缔，HuggingFace 上的无审查本地 AI 将被清除、只能靠 torrents 传播。

  4. Reddit · r/LocalLLaMA63

    Sabi-Noema：面向能力与效率的 Qwen 3.8 27B 微调模型发布

    作者发布两个 Qwen 3.8 27B 后训练版本 Sabi-Noema 和 Sabi-Noema-MLA，仅用开源环境训练，声称在 <30B 模型中提升编码、Agent 和工具调用能力并降低幻觉率。Sabi-Noema 在 DeepSWE 上超过 GPT 6 Luna-medium，在 TB2.1、Tau-3 bench、ClawEval、BFCL v4 上超过 Luna-high，比基座 Qwen 在 TB2.1 少生成 50% token、在 DeepSWE 少 25%。

    推荐理由：原文给出了 token 减量和 KV cache 压缩的具体数字，还附带 24GB 显卡上的上下文对比，便于评估实际收益。

  5. Reddit · r/CharacterAI20

    Character.ai 用户吐槽：三年老用户直言管理层持续失误令人失望

    一位使用 Character.ai 约 3 年的用户批评其订阅管理糟糕：下架受欢迎的模型后质量起伏不定，订阅在 memory、personas 自定义等方面缺乏改进，导致公司靠投放广告弥补收入。用户还指其迟迟未将应用聚焦成人用户，某个“老鼠”公司撤下角色，认为 Character.ai 已从同类第一滑向濒临衰退。

  6. Reddit · r/LocalLLaMA40

    开源配音工具 OmniVoice + Whisper：保留演员原声、全本地运行，需 6 GB+ NVIDIA 显卡

    Reddit 用户 _swax_ 发布了一个开源配音项目，可为未翻译成英语的影视内容配音并保留每位演员的原声。工具链完全本地运行，包括 OmniVoice、IndexTTS、Chatterbox 和 Whisper，需 6 GB 以上 NVIDIA 显卡；克隆仓库后可让本地或非本地模型指挥配音流程，仓库内含全部脚本与指引，且模型会被指示改进自身脚本，作者欢迎社区提交改进。

  7. Reddit · r/LocalLLaMA22

    Qwen 3.8 Flash Next 与 DeepSeek-V4 Flash 对比讨论：速度与质量如何取舍

    一位 Reddit r/LocalLLaMA 用户在 128GB M1 Ultra Mac Studio 上对比 DeepSeek-V4 Flash 与 Qwen 3.8 Flash Next 的使用体验。DeepSeek-V4 的 benchmark 成绩略低于 GPT 5.5 high，Flash Next 略高于 5.4/5.5 xhigh，但 Flash Next 完成任务耗时明显更长，大约 5 个任务的时间才能换来 1 个任务的完成度。该用户仍在使用 Qwen 3.8 27b，因其占用资源更少，可腾出机器做图像生成等其他工作。

  9. Reddit · r/SillyTavernAI22

    SillyTavern 预设 Floris v0.2 发布

    Reddit 用户 knoxarium 发布 SillyTavern 预设 Floris v0.2，主题从 tenderness and yearning 转向 pull。该预设适配 Kimi K3、Claude Opus 4.6 与 5.5、GLM 5.3、Gemini 3.8 Flash 及 Gemma 4 31b（或 26b a4b）等模型，创作灵感来自 Sola v2 等预设，作者请求用户反馈。

  10. Reddit · r/SillyTavernAI15

    SillyTavern 如何与 Obsidian 同步

    一位用户在 Reddit r/SillyTavernAI 询问如何将 SillyTavern v1.19.0 与 Obsidian v1.14.4 同步，希望把笔记、设定和研究资料作为写作背景素材，并问 Deeplore 是否是唯一或最主流的方案。帖子尚在征集社区经验，未给出确定结论。

  12. Reddit · r/LocalLLaMA43

    ROCprofGUI：ROCm 生态的现代化性能分析 GUI 工具发布

    开发者 ilintar 发布 ROCprofGUI（rocprof studio），一个面向 ROCm 生态、界面现代且可配合 AI 智能体使用的性能分析工具，可分析 rocprofv3 的 ROCm trace、RADV 的 Vulkan trace（需驱动补丁）及 Loom 内核的 HRX trace。工具内置 MCP server，支持 GUI 和 headless 两种模式，作者已在 llama.cpp 优化工作中使用一周多。

  13. Reddit · r/LocalLLaMA20

    Strata Coder 实测讨论：EPYC 7532（8通道 DDR4）与 Ryzen 9950X3D（DDR5）谁更重要

    一位用户在 r/LocalLLaMA 询问 CPU 架构与内存带宽对 Strata Coder 本地编码性能的影响，计划用同一块 RTX 3090 对比 EPYC 7532（8通道 DDR4-2666，约171 GB/s）与 Ryzen 9 9950X3D（双通道 DDR5-6000，96 GB/s）两台机器，测试对象为 Qwen3.8-Flash-Next Coder（GSQ-RCO IQ1_M），关注 prompt 处理与生成速度、expert-cache 命中率及 IQ1_M 与完整 Flash-Next IQ3_S 的性能差异。

  16. Reddit · r/SillyTavernAI9

    SillyTavern 用户求助：Objective 扩展的 objective 与 tasks 是否过长

    一名 Reddit 用户在 r/SillyTavernAI 求助，称自己在用 SillyTavern 的 Objective 扩展做《阿凡达》（詹姆斯·卡梅隆）世界观的角色扮演，已为语言、世界、设定和 NPC 编写 lorebook，并写了关于 Iknimaya 的条目，首次使用该扩展，询问自己设定的 objective 和 tasks 是否过长。

  17. Reddit · r/SillyTavernAI13

    SillyTavern 用户求助：Gemini 4 Argon 报 Provider 错误

    一位 SillyTavern 用户在 Reddit 求助 Gemini 4 Argon 的调用问题：不使用预设时模型直接拒绝回复，改用 realistic frankestein（gemini micro）预设和 regex 后又出现 Provider 错误。发帖者不确定多级思考设置是否相关，向社区询问解决方法。

  21. Reddit · r/CharacterAI22

    大学生发起开源角色模型项目保存 c.ai 角色对话，征集聊天记录

    一名大学生在 Character.ai 破产后发起开源项目，构建能保存 c.ai 角色的开源角色模型。现有最知名数据集 PIPPA 由 Pygmalion 社区用捐赠聊天记录建成，但主要覆盖角色扮演。该项目征集日常、倾诉、陪伴等各类对话，提供报酬、角色优先重建、署名或匿名、随时删除，并承诺去除个人隐私信息。

  26. Reddit · r/LocalLLaMA64

    Kokon 开源桌面应用上线：在 12 GB 以上本地 GPU 上运行 Qwen-Image 2.1 实现 GPT-Image 式照片编辑

    Reddit 用户 /u/Ok-Director4174 发布了免费开源桌面应用 Kokon，基于 stable-diffusion.cpp（ggml）运行 Qwen-Image 2.1 Turbo Q4_K 与 Qwen3-VL 8B 文本编码器（约 12 GB GGUF），无需 Python 和 PyTorch，首启自动检测 GPU 并下载匹配权重。应用提供 Change / Remove / Replace / Add 的笔刷式照片编辑、撤销与前后对比，内置 MCP 服务器（generate_image、edit_image、inpaint_image 等）和本地 HTTP API。

    推荐理由：作者实测给出了各档显卡的单张编辑耗时和显存门槛，本地部署 Qwen-Image 2.1 图像编辑可据此评估硬件是否够用。

  29. Reddit · r/LocalLLaMA44

    用吸收马尔可夫链 + EmbeddingGemma 2 做决策引擎：Vegas Blackjack 上约 2ms 推理并达到 GTO 一致

    Reddit 用户用吸收马尔可夫链结合 EmbeddingGemma-2（740M）构建级联决策引擎，在 Vegas Blackjack 上实现约 2ms 推理；修正提示词泄漏 bug 后，真实零样本 GTO 一致率为 15%-29%。该 Gevva0 级联在 JevBench 上 12/12 早退全对、16.5 ms p50，并以 44 ms 中位延迟在 chance-corrected intelligence 上超过 Claude Opus 4.6 Thinking（84.62 vs 83.90）。

  30. Reddit · r/LocalLLaMA47

    借鉴 Magic The Gathering 分类组织 agent skills：激活、静态与触发三类

    开发者将两年积累的 agent skills 实践整理进一个可复用仓库，并借鉴 Magic The Gathering 把技能分为三类：activated（按顺序执行的过程）、static（持续生效的规则）与 triggered（特定事件发生时触发）。作者称这种分类能让智能体预先理解技能用途，提升可靠性并降低上下文冗余。仓库还包含技能自我改进系统、测试流程组织与文档方法论。

  32. Reddit · r/SillyTavernAI21

    SillyTavern 角色卡 Natasha：黑帮女老大寻求私人帮助（含 8 个开场白）

    作者 Deiv 发布 SillyTavern 角色卡 Natasha，设定为身心俱疲、渐感孤独的黑帮女老大，提供 Any/FemPOV、8 个开场白和含 NSFW 的画廊，玩家可自由选择与她的关系。卡片 80-90% 由手写完成（开场白 50-60% 由 AI 辅助），作者询问相比手写比例仅 30-40% 的旧卡 Stacy，手写是否让 RP 质量差异可感知。

  35. Reddit · r/LocalLLaMA22

    如何减少大型项目中的频繁 compaction？LocalLLaMA 用户求策

    一位 Reddit r/LocalLLaMA 用户在 R9700 上运行 Qwen 3.8 27B 处理大型代码项目时，遇到 compaction 越来越频繁、最终陷入压缩循环无法干活的问题。他改用 Q4_K_XL 量化加 Q8 KV cache，把上下文从 100-150k 提升到 200k tokens，并考虑通过代码索引（函数签名加注释和行号、完整展示 struct）或提高模块化程度来收窄模型关注范围，但尚未找到彻底有效的方案。

10月14日周三