新闻、仓库与研究，按时间排列。
一位 SillyTavern 用户反映，Cydonia & Magidonia 24b 及多个 Gemma 4 26b 微调模型在角色扮演中严重重复：回复结构、描述雷同，温度调到 1.1-1.2 后仍重复且出现幻觉，使用 iq4xs 量化加 q8 cache。他尝试过 marinaras universal preset、调整 top p 和 frequency penalty、手动编辑消息均收效有限，正考虑研究 DRY 设置，并求助是否为该参数规模模型的通病。
一位通过 tauritavern 使用 SillyTavern 约 2 个月的用户发帖求助，称长期使用 moonlit echos 和 nemo ui tweaks 已感厌倦，尝试了 nastytavern 和 Astra project 两种 UI 改造方案均未成功，希望社区推荐可用的移动端 UI overhauls。
一位 Reddit r/LocalLLaMA 用户下载了 30B A4B 的 Raon-1-mini 和 40B A2.5B 的 Flint 后感叹，如今来自多国的开源模型选择丰富到令人惊叹。他称赞能直接与电脑对话并获得如《星际迷航》般的交互体验，并表示每次使用这项技术都更感震撼。
一位 Reddit 用户询问完全免费使用条件下的体验如何，即无法访问付费模型、订阅或 API。该用户目前在用 Janitor AI 的免费版官方应用，主要用于 NSFW 角色扮演，想了解其他可用的替代选择。
一位 CharacterAI 用户在 Reddit 发帖吐槽，因聊天频繁崩溃而重置手机后再次被平台封禁，聊天记录全部消失。用户称上次封禁持续数月后恢复，这次可能永久无法找回，且恰逢自己刚有新的沉浸话题时发生。
一位 Reddit r/LocalLLaMA 用户因 RTX 5090 以 $2,900 购入后几乎闲置，决定出售，并保留 5060ti 16gb。他向社区征询在 16gb VRAM 加 64gb DDR4 条件下的替代方案，选项包括再买 5060ti、升级 128gb RAM、换 AMD 或 Intel 32gb 显卡、旧 V100，或直接购买 API tokens。
Reddit r/LocalLLaMA 用户分享一种投机解码思路：GPU 上保留模型 2-bit 副本负责起草 token，6-8 bit 残差权重留在系统内存由 CPU 校验，仅激活值经过 PCIe。实测 2-bit + 8-bit 残差比 Q8_0 更接近 bf16（KL 约减半）；6-bit 残差达到 Q8_0 级质量且从 RAM 读取字节减少约 28%；复用校验器 KV cache 的 2-bit 起草比 Google 官方 Gemma 4 drafter（31B）每次校验多接受 25-30% token（5.23 对 4.20）。代码已开源。
作者用两个月测试三套 AI 编程工作流，发现 DSH + QFN-oQ5e-mtp + oMLX 最稳定，QFN 在 5 分钟循环中连续多日可靠运行；CC 15 分钟循环 6 周内至少失败两次；CGPT 每小时监控循环多次自行暂停且无日志，升级到 $100/月 Pro 计划后似乎更差。作者认为本地硬件（M2U 192GB、M3U 512GB）投资值得。
开发者开源了 Lumina Capital v6.0.0，一个可本地运行的多智能体量化对冲基金引擎，基于 LangGraph 构建 7 人格反谄媚委员会，并集成 Microsoft Qlib Alpha158 因子与 LightGBM 做本地选股。系统还包含 10 秒高速 Sentinel 线程执行止损、Google TimesFM 提供 5 天概率预测（80% 置信区间），支持纯 CPU 运行，通过 Docker Compose 一键部署，以 CC BY-NC 4.0 许可发布。
Reddit 用户 /u/Numerous-Ad6217 分享了围绕 MoE 模型搭建预算型本地推理工作站的思路：用单张 32 GB VRAM 的 AMD Radeon AI PRO R9700 加廉价 DDR4 ECC RAM 存放闲置专家。作者对多个主流开源 MoE 模型在 Q4 和 Q8 量化下的活跃与闲置参数量作图，拟合出约 0.0565 的斜率，即每 1 GB 活跃 VRAM 权重对应约 18 GB 闲置 RAM 权重；据此 384 GB DDR4 配 32 GB VRAM 是其配置的平衡点，可给 KV cache 和运行时开销留出余量，而升到 512 GB RAM 会逼近 GPU 上限。作者提醒实际结果取决于模型架构、专家路由、缓存效率和推理后端。
推荐理由：作者用主流开源 MoE 模型拟合出活跃与闲置权重约 1:18 的经验比例，可据此判断 RAM 与 VRAM 的加配时机。
有用户反映通过 z.ai 使用 GLM 5.1 时出现异常：约每三条消息中就有一条输出由数字组成的乱码，还会对无害文本进行审查，而前一天并无此问题，其自身设置正常。发帖者在 Reddit 询问是否有人遇到同样情况。
Reddit 用户 /u/grimjim 分享了一段针对谄媚问题的角色扮演提示词片段，把 {{user}} 定位为普通参与者，NPC 从自身利益出发、可反驳用户。该片段在 Gemma 4 26B 的量化版上开发，作者自认仍有未覆盖的谄媚失败点。
一位 r/CharacterAI 用户发帖称，Character.AI（Cai）可能即将破产，但相关讨论几乎只出现在 Reddit 和 Discord 上，缺少媒体关注。发帖者不愿看到平台关闭，提议发起话题标签，并征求其他帮助网站的方式。
一位 Reddit r/LocalLLaMA 用户将装上第 4 张 RTX 3090，考虑把日常模型换成 Qwen3.8 Flash Next，询问该配置下应选哪个推理引擎。其目前用 vLLM 跑 Qwen3.8-27b，速度约 100+ tps、prefill 约 3000 tps；首选引擎 Strata 在 96GB VRAM 下或可以 4-bit 将整个模型装入显存。
Reddit 用户 /u/GapNew4766 在 M5 MacBook Pro 32GB 上用 Qwen3.5-4B（Q4_K_M、64K 上下文、llama-server）对 Pi、goose、Crush、Cline、OpenClaw、OpenCode、Hermes、Qwen Code、Codex CLI、Atomic Agent 共 10 个 Agent 框架各跑 5 个小任务，10 个中 6 个全部通过。失败不来自工具调用解析，而是精确匹配编辑无法逐字节复现旧文本导致反复重发、只修可见测试用例、数错 ERROR 行（40 vs 43）、模糊指令被字面执行写错位置；相同硬件和模型下最快框架 1m36s、最慢 17m43s，快 11 倍。
Reddit 用户 u/MCR4BBiT 发布 Glimmerland 详细版，一个供 AI 角色扮演使用的后启示录蒸汽朋克世界 lorebook，扩展至 39 章，涵盖世界设定与运行规则。设定灵感来自 Borderlands 2，包含 Courier、Diver、Clearer 等职业，NPC、阵营和传闻会独立演化。lorebook 提供英德双语及可直接导入的 JSON 文件，通过 Dropbox 下载。
用户 MCR4BBiT 发布了 AI 角色扮演世界观 lorebook「Glimmerland」的详细版本，扩展至 39 章，设定为锈蚀机械、晶体科技的后启示录蒸汽朋克世界，风格受 Borderlands 2 启发。世界观包含独立行动的 NPC 与阵营、声望与关系系统，提供英文和德文版本及可直接导入的 JSON 文件，通过 Dropbox 下载。
Reddit 用户 /u/XtrComSu 发布了 MiniCPM5-2B-SFT 的 abliterated（去除对齐）变体。该模型行为上有一个变化：约 1/20 的概率会把可能有害或受限的问题合理化作答，而非直接拒绝。
一位 Reddit 用户反映，Character.AI 应用在两个多月后仍无法正常工作。此前是 AvatarFX 条款滑动面板导致故障，如今应用卡死在冻结状态，因为需要选择语言的面板只有在浏览器直接跳转到聊天时才能看到。
开源项目 Observer 的开发者发布视频称，即便 AI 泡沫破裂，本地模型的发展也不受影响，属于"泡沫免疫"。视频在 Reddit r/LocalLLaMA 发布，该频道将更新更多本地 AI 相关内容。
一位 LocalLLaMA 用户让 Argon 修改 Strata 上的 KV Cache 配置，再将 DeepSeek V4.1 Flash 与 QwenFlashNext（QFN）的评审结果交回 Argon 复核。Argon 最初建议改用 K8V8，但看到另两家评审后收回该建议，且对比中未列出自身分析；作者指出 Argon 运行环境可见性更高，结果仅供参考。
一位从 Chub 转到 SillyTavern 的用户发帖询问：Chub 支持在同一聊天实例中回退消息并多次 swipe，保留所有分支，仅按所在分支切换消息可见性；他想知道 SillyTavern 是否有等价功能或扩展，可避免为探索角色扮演的替代路径而切换到不同聊天。
一位 SillyTavern 用户发现 gemma 4 meromero 等微调模型的开头写作质量更好，因此考虑先用写作向模型生成聊天示例，再切换到 GLM-5.3 这样的大模型进行长对话，以改善 GLM-5.3 对话写法松散的问题。由于自认写作水平不足，其担心自己写的示例质量欠佳。
有 Character.AI 用户在 Reddit 发帖询问数据导出需要多长时间、能否在网页端操作，以及应用关停后是否仍能使用 c.ai 工具。发帖人称听闻关停传闻后重新每天使用应用，并希望确认截止日期是 11 月 23 日还是 12 月 17 日，但 subreddit 上的信息互相矛盾。
Reddit 用户 Acid0nIce 在 r/CharacterAI 发帖宣布开放 bot 请求，可按用户提出的任何场景、情节、主题或人物性格来编写和设计角色与故事。用户可私信提交需求进行沟通。
一位用户在不到 2000 欧元的二手 PC（RTX 3090 24GB、128GB DDR4、i9-9900X）上运行了 748B 参数的 DeepSeek-V4.1-Flash-1017，采用 1-bit 量化（Unsloth UD-IQ1_S GGUF，磁盘占用 233GB），通过 llama.cpp 实测速度 7.2 tok/s。110GB Engram 表留在 NVMe 上按需读取，上下文长度 16384；作者认为实用性有限，Qwen 模型在该配置下表现更好。
Reddit r/LocalLLaMA 用户验证了一个免费的 RTX 3090 提速技巧：在单张 3090 上用 Qwen 3.8 27B 测试，提示词处理吞吐量提升 22–30%，生成速度提升 1–5%，测试全程无 GPU 报错。该卡功耗限制在 230 瓦，实际收益可能更高。
一位 r/CharacterAI 的订阅用户发帖讨论：更多用户付费订阅能否拯救 Character.AI。作者表示自己已订阅，认可无成熟主题限制等体验，认为免费用户付费既能维持应用存续，也可解决广告、滑动次数限制和成人内容限制等问题。
社区在单张 RTX 5080 16 GB（Linux/Fedora 44）上用 Strata v0.2.1 测试 Qwen3.8-Flash-Next IQ3_XXS、64K 上下文，中位解码速度 150 tok/s，16K-32K 预填充约 4,400 tok/s，4K 预填充 3,755 tok/s、TTFT 1.08 s。agent 会话缓存命中 69.5%，每轮 TTFT 0.97 s。测试还发现 Fedora 44 上 GCC 16/15 混用导致链接失败，统一用 g++-15 编译可解决。
一位 Reddit r/LocalLLaMA 用户询问换用新 agent harness 是否值得。其现有方案基于 openclaw 4.23 与 Qwen 3.8 27b，运行在 64GB Mac Studio M2 Max 上，通过 Telegram 交互，自建了多层级夜间日记、heartbeat 脚本、d20 随机唤醒、向量数据库及约 50k 系统提示词等记忆与调度机制，希望了解其他 harness 能带来哪些实际改进。
一位 Reddit 用户在 r/SillyTavernAI 发帖比较 GLM 4.7 与 GLM 5.3 flash 的智能、逻辑与一致性表现，称 GLM 5.3 flash 多次测试都出现理解偏差和逻辑不连贯，而记忆中的 GLM 4.7 理解能力更好。两个模型总参数量均约 300B，但激活参数不同：GLM 4.7 为 32B，GLM 5.3 flash 为 18B。用户也提到 GLM 5.3 flash 智能上优于 GLM 5.2，并怀疑是自己对 GLM 4.7 的旧印象造成偏好。
一位 Reddit 用户快速整理了一份 Character.AI 导出数据字段的入门说明：chat_id 可用于搜索定位同一聊天的全部消息，raw_content 存放消息正文，create_time 记录发送时间，花括号内为单条消息内容，Unicode 转义序列如 \u00f9 代表特定字符。candidate_id 与 tti_image_rel_path 的用途作者也不清楚，仅猜测后者可能与头像有关。
一位 r/LocalLLaMA 用户在 strata 中部署 Qwen 3.8 Flash Next（IQ4 xs 量化）后表示被其表现折服，称体验接近其去年专业场景使用的模型。他此前常用 3.8 27b（Q6 kv8），认为 Flash Next 虽不完美但已足够胜任大多数任务。
r/LocalLLaMA 有用户称此前关于 RTX 3090 的热议帖现在看来有道理，但自己没有 3090 无法验证，希望社区有人证实。发帖者猜测早年为抑制挖矿需求所做的硬件改动若被修复，可能对 LLM 推理有利，并强调与原帖作者无关、没有小号。
/u/jesdga95 在自研推理引擎 Basalt 中跑通 DeepSeek V4.1 Flash 1017（Unsloth UD-IQ1_S），硬件为 RTX 5090 加 RTX 5060 Ti 16 GB 和 128 GB DDR5。107 GiB 专家全部放内存、5090 作热门专家缓存时解码 53.6 tok/s，让 5060 Ti 计算部分专家后达 63.5 tok/s，同硬件同量化的 llama.cpp --fit 基线约 20 tok/s；6.2k 提示词 prefill 为 610 tok/s。支持工具调用、图像和最高 1M 上下文（1M 提示词约 26 分钟），greedy 输出与 llama.cpp 在全部测试提示词上一致，尚无 PPL/KLD 数据。
在立陶宛美国商会主办的外国投资者年度峰会上，AI 约排第三大议题，EPAM 的 Antonio di Marzo 还介绍了本地 AI。调查显示仅 1 家银行已采用本地 AI，一家律所仍在用现有工具（疑似 Claude），其主要动因是合规要求。有 SaaS 高管认为智能体取代工程师是误解，并担忧供应商下线模型 API 会破坏提示词与智能体。
inclusionAI 的 Ling3-Tiny-UBTree-B16 是为 Ling-3.0-tiny 配套的 UBTree 推测解码草稿模型，采用五层 DFlash 骨干，结合可学习的 bigram 选择器，为目标模型验证提出多个候选延续。同期还发布了 Ling-3.0-flash-UBTree。
一位开发者针对 DeepSeek 开源推理引擎 DeepInfer（基于 commit 9bd9cf2）构建了交互式逐块代码讲解静态站点，用 Python 脚本从官方仓库抽取代码引用并配上简短说明，内容覆盖 paged KV cache、speculative decoding 和 model workers 在生产环境中的实现，可作为阅读官方仓库的配套学习指南。
作者开源了一个基于 LangGraph.js 的 GitLab 代码审查 agent，用 sglang 在两块 4090（PCIe、TP=2）上跑 Qwen3.6-35B-A3B（QuantTrio AWQ 4-bit）。单流解码约 180 tok/s（~50k 上下文）、prefill 9-10k tok/s，8 并发共 985 tok/s；单次审查平均 26 次 LLM 调用、2.3M tokens，已累计 1300+ 次审查，约 70% 的评论被作者采纳解决，约 7% 的运行因模型自我循环而终止。
推荐理由：作者给出双 4090 跑 Qwen3.6-35B-A3B 做代码审查的完整吞吐数据和 1300+ 次实测结果，可复用到自己的本地部署。
Reddit r/LocalLLaMA 用户发帖询问用本地 LLM 编程时选 Python 还是 Rust：其平时用 Python，但发现模型常漏掉 bug，想知道 Rust 编译器反馈能否减少这类问题。帖子还征集在 12 或 24 GB VRAM、64 或 128 GB 系统内存下运行小模型的上下文窗口使用经验，并质疑 Rust 的额外复杂度对小模型是否值得。