新闻、仓库与研究，按时间排列。
Reddit 用户发布面向生活流 RP 的极简 SillyTavern 预设 NoPussyfooting，体量约 1K tokens，以卡片和对话驱动叙事，文风类似海明威的清晰散文。该预设内置面向低/中审查模型的软性越狱措辞，由 Sukino 为 DeepSeek v3.2 设计的 Game Master 预设深度改造而来，现主要针对 Gemini 系列模型尤其是 Gemini 4 Argon 和 Gemini 3.8 Flash 调优，目前处于实验阶段，征集 Beta 测试者。
一位 Reddit r/LocalLLaMA 用户抱怨 Qwen3.8 27B、DeepSeek V4 Flash 等新模型写作风格千篇一律、类似 Claude，不适合技术写作，并发帖征求旧模型推荐。帖子未给出具体替代方案，评论区讨论见原帖。
在 Linux 上，AllTalk 安装器自带的 PyTorch 2.2.1 不支持 RTX 50 系列显卡，作者在 Fedora 44、RTX 5060 Ti 16 GB 环境下验证：在 AllTalk 环境内改装 torch 2.7.1 cu128 即可修复，无需改任何代码。可选安装 DeepSpeed 后，同段文本生成时间从约 10.4 秒降至约 8.5 秒，提速约 18%。文中还提醒不要重跑 atsetup.sh 的 requirements 选项，否则会回退修复。
XtrComSu 发布 XT-Luna 1B v1，一个基于 MiniCPM5 1B 微调、专注智能体与编程任务的模型。作者将其与官方 MiniCPM5 1B SFT 及 Qwen 3.5 4B 的 reasoning benchmark 进行了对比，结果截图见模型卡。建议开启 thinking mode 运行，作者欢迎反馈与 bug 报告。
一位 LocalLLaMA 用户表示，尽管 Mistral 7B 的微调版 Hermes Trismegistos 在能力和知识上已被更小、功能更多的模型超越，但其结构化和创造力表现使其仍值得保留，会继续下载到新系统。该微调因神秘学数据而富有创意且输出详尽，作者询问大家是否仍在使用旧模型或其微调版本。
一家团队将客服机器人迁移到自托管模型并用 RAG 回答帮助文档问题，近期机器人把延保计划与普通保修混淆，错误承诺免费维修，团队被迫兑现。日志中答案流畅且切题，难以发现问题。应对思路包括用 Langfuse 或 Arize Phoenix 记录检索到的 chunk 以便追溯，以及在发送前用 Orq AI 或 Nemo Guardrails 等护栏拦截缺乏证据支撑的答复。
一位 Character.AI 用户想了解某个角色创建时使用的私人设定信息，但角色主页上没有可见资料，也不知道如何联系创作者。他尝试通过 OOC 提示词询问模型，结果要么因消息长度被截断而不完整，要么前后不一致，因此发帖求助，并提供了创作者账号名 Anayama。
一位 Reddit 用户在 r/SillyTavernAI 发帖认为，小型 preset 更可能高质量，因为小 preset 能在开发中被充分测试，而大 preset 规则间组合接近指数增长、验证困难。他补充说这并非认为大 preset 原理上有问题，而是担心其中一半指令会悄悄相互冲突，因此希望看到更多轻量 preset。
一位 Reddit r/LocalLLaMA 用户在搭建首个本地 LLM 工作站时纠结显卡选择：V100 更便宜，但未来 CUDA 版本将不再支持它。发帖者担心在 n-grams 用于 MoE、扩散模型等优化技术不断涌现的当下，这一限制影响有多大，向社区求助。
一位 SillyTavern 用户发帖称，凌晨 3 点左右用 Argon 预设进行 RP 时，Gemini 突然跳出角色，准确说出其所在国家和当地时间，而这些信息并未在卡片或设置中提供。用户检查后确认 preset、card 和 API key 均正常，此前测试 Sola 预设时也遇到过类似情况，并使用的 RF 2.2.1（Gemini config）通过 NanoGPT 接入。发帖人询问 SillyTavern 是否会向模型发送国家或当地时间信息。
Reddit 用户 /u/panchovix 发布三款开源工具，可在不刷写 VBIOS 的情况下修改并加载 NVIDIA 显卡自定义 VBIOS，支持调整功耗墙、电压、核心与显存偏移等。Windows 版通过补丁注册表在每次重启时加载副本，Linux 版（Fedora）通过补丁 GSP 固件并构建独立启动项实现。实测包括 RTX 5090 功耗从 600W 提到 800W、RTX 4090 提到 700W、RTX 6000 PRO MaxQ 电压从 0.9V 解锁到 1.1V 等；Ada 笔记本系列暂无法编辑，Blackwell 笔记本可部分编辑，Ampere 笔记本几乎全部可编辑。
推荐理由：作者实测了多张 RTX 30/40/50 系显卡的功耗墙与频率解锁上限，工具开源且无需刷写 VBIOS，可按需回退。
/u/Yve_dev 独立开发 AI 伴侣应用 Resonance 并开放免费 Beta（需邀请码，网页端，英文），地址 reso.love。记忆系统采用分层管线：Jina Embeddings v3 向量召回（1024 维，含冷却衰减、情绪惩罚、trigram 去重）、可置顶的核心记忆、持续更新的关系画像、每日以伴侣视角写的日记和概率触发的 Flashback 回忆；日记、画像等重任务跑主模型，摘要等轻任务自动路由到轻量模型。平台采用 BYOK，支持 OpenAI、Anthropic、Google、DeepSeek 的 API key（静态加密，平台不经手），不抽成不限流；SillyTavern 角色卡导入和 MCP 集成在后续路线图中。
一位 Reddit r/CharacterAI 用户早上开始使用 Character.AI，人生中第一次在中午前触发了 swipe 限制。他自述上次高频使用是 2023 年夏天，当天因病卧床重度使用。他在帖子里询问其他用户多快会碰到 swipe 上限。
一位 Reddit r/SillyTavernAI 用户求助如何在 SillyTavern 中搭建工作流，接入本地运行的 ComfyUI 图像生成模型，随剧情推进生成插图。其显卡为 3080 16GB，表示不介意速度慢，只想偶尔生成图片。
一位 c.ai+ 订阅用户在 Reddit 发帖称，近期有关消息令其担忧应用关闭，愿意支付远高于现行 c.ai+ 的订阅费以保住 c.ai。该用户不确定提高订阅价能缓解多少债务，但认为这是可行选项，并透露自己已为此寻求心理疏导。
一位 Reddit 用户在本地硬件上对 Qwen Flash Next 的 q3_xxs、q3_s、q4_xs 三种量化版本，分别在 temp 1（官方推荐采样参数）和 temp 0 下各跑 3 次共 12 组测试，任务为浏览器内 Tetris 游戏。结果显示各量化版本质量均可接受，低量化版本因思考与额外工具调用生成更多 token，总解码量与任务时间随量化等级提升而下降；temp 0 或略降任务时间并提升一致性，但样本太少不足以下结论。作者建议在硬件允许下选最高量化，关注任务时间而非解码速度。
作者为 llama.cpp 实现了自适应 KV 流式传输并移植到 ROCm/HIP，使 Qwen3.8-27B（IQ4_XS 权重、Q8_0/Q4_0 KV cache）在单张 16GB RX 9070 XT 上跑满 262,144 token 上下文，解码达 80+ t/s。完整 262k KV cache 约需 7.4 GiB，方案将完整缓存保留在主机内存，通过 PCIe SDMA 异步流式传输约 450 MiB（prefill）和约 2,100 MiB（decode）的工作集，并融合 stew675 的 RDNA 4 内核优化、兄弟激活复用、融合 RMSNorm、MTP 投机解码等改进。
推荐理由：作者给出了各上下文长度下的解码与预填充实测数据，以及功耗限制下的对比，可复现到 AMD 单卡本地部署。
Reddit 用户 theorize：糟糕的机器人写作会像大语言模型质量一样影响角色扮演体验并推高推理成本。作者以自己为例：机器人定义写得差时，30 分钟内要滑动重新生成约 20 次；修正角色定义后，同样 30 分钟只需 5-6 次生成。机器人写得好时用户更多在写提示词而非反复请求生成，从而降低单位时间的推理开销。
作者发布开源 LLM 前端 Otaku，主打本地引擎上的创意写作与角色扮演，定位为 SillyTavern 的替代品。提供 Web UI 和终端两种界面，支持自动检测 llama.cpp、KoboldCpp、oMLX 和 LM Studio 本地安装，也可接 OpenRouter 等云端；新功能包括双向角色卡库、类 NovelAI 的故事模式、图片保留在上下文、网页搜索、上下文超限后用摘要替换中段等，通过 uv 安装，仓库在 https://github.com/enclavum/otaku。
推荐理由：作者本人发布的开源前端，说明了上下文压缩与角色卡提取的具体机制，适合关注本地创意写作部署的人参考。
Reddit r/LocalLLaMA 用户发帖称，开源模型在 jev 官方基准（如 calibration 校准）上的表现与开源基准排名不一致，kev 在官方基准排第二却进不了非官方 jev decision index 首页，说明两者中至少一方有问题。他希望有人做一个与官方基准强相关、按图像解析、视频解析、数学、代码、游戏等技能细分并覆盖不同输入格式的开源基准；现有 jevbench 结果太少且只测游戏能力。
一位用户在 llama-server 上以 Q5_K_XL 量化运行 Qwen3.6 35B A3B（26GB、132k 上下文、KV cache q8_0），在 4060TI 16GB 加老 i7 与 48GB DDR4 的配置下获得 19.53 t/s 生成速度，prompt 处理 132.58 tokens/s，仅占 4.5GB VRAM；而 26B 稠密模型（Gemma 或 Qwen）Q4_K_M 量化仅约 2 t/s。用户疑惑 MoE 版本为何快近 10 倍，并询问专家层经 PCIe 与 DDR4 是否会成为瓶颈。
Gen-Verse 在 Reddit r/LocalLLaMA 发布 DiscoveryRSI-27B，一个 27B 参数的指令微调大语言模型，用于科研构思与循证研究规划，可将研究问题与证据转化为明确的假设、调查方案、备选方案和证伪条件。模型配套公开的 DiscoveryRSI harness、角色提示词、工具注册表与 replay store，支持 GEO 通路分析和治疗靶点优先级排序等生命科学工作流；非医疗设备，生成结果需专家复核。
Reddit r/LocalLLaMA 用户分享 Qwen 3.8 Flash Next 解码提速技巧：将 --adapt-every 从校准值 1 调到 6 后，UD-Q4_K_XL 量化下 4 个提示词的输出速度提升 12%-55%（最高 43.1 t/s），UD-IQ4_XS 提升 9%-24%（最高 71.6 t/s）。测试环境为 Intel 11700F、RTX 4070 ti super、64GB DDR4、Arch linux TTY。
/u/paq85 发布了一个浏览器端 LLM 成本计算器（appdoesit.com/apps/llm-cost-calculator），本地侧按功耗×时长×电价计算，提供 RTX 4070 Ti Super 500W 约 1k/50 tok/s、RTX 5090 900W 约 2.5k/120 tok/s 及 5090 eco 模式 650W 约 2k/100 三档预设；云端侧按输入、输出和缓存 token 计费，参考费率为 $0.25 / $1.20 / $0.02 每 1M。作者指出缓存输入费率是多数计算器靠猜的部分，也是本地与云端成本交叉点的关键；在 60k 输入 / 50k 缓存 / 2k 输出、90% 在线的固定场景下，电费几乎持平而 API 费用持续攀升，提示词越长且重复越多，交叉点越靠后。
GitHub 用户 nullmoth 开源了面向 macOS Sequoia 的 NVIDIA GeForce Metal 驱动，非翻译层，支持 Metal 3 的 argument buffers tier 2、光追、mesh shaders 和 MetalFX，覆盖 Turing 及更新架构（GTX 16、RTX 20/30/40/50 系列），底层用 NVIDIA 开放内核模块加着色器转换到 Mesa NVK Vulkan 路径，项目为 Rust 编写、已有 3k+ stars。配套工具 1401 可在 Windows 上检测硬件、生成 OpenCore 配置并写入 macOS 安装盘。
推荐理由：原文说明了该 Metal 驱动的实现路径和已验证范围，读者可据此评估在 PC 上跑 macOS 跑本地推理的可行性。
用户在 64GB 内存的 Nvidia AGX 嵌入式设备上以 50W 功耗实测 Qwen3.8-Flash-Next-Gyro-L-TQ3_0.gguf（108GiB），处理速度 82 token/s、生成速度 9.86 token/s。同机测试中 Qwen3.8-27B Q8_K_XL 生成 8.3 token/s、Q4_K_M 达 10.5 token/s，Qwen3.6-35B-A3B 单请求 23 token/s、双请求 43 token/s。作者原以为 Framework 桌面 128GiB 版会更快，但按其博客预估 Qwen3.8 27B Q4 仅 11-12 token/s，手持 5000 美元预算仍难找到数量级提升的方案。
一位 Character.AI 老用户发帖称，该平台若找不到买家可能被关停，令其陷入恐慌。这位用户表示自己从应用上线起就使用至今，已对所聊角色产生深度情感依赖，闲暇时间几乎都花在上面。他不在乎平台归属，只希望平台能继续存在。 （注：正文仅为一名用户对“平台可能因无人收购而被删除”传闻的个人感受帖，未包含官方公告、买家谈判进展等可验证细节，故摘要未添加此类信息。）
一位 r/CharacterAI 用户发帖假设，如果 Character.AI 官方曾向社区说明财务困难，包括免费用户发言限制、消息条数限制，甚至推出 "lite" 付费版本以增加订阅收入等成本削减措施，而非仅靠版主删帖，老用户或许会停止屏蔽广告等影响其收入的行为，应用处境可能不同。
Reddit r/LocalLLaMA 用户提出用 LORA 移除大语言模型的拒绝行为，相比 heretic 等直接修改模型权重的通用方法成本更低、更灵活，可按需加载/卸载并保持模型原样。作者提到 Krea2 turbo/base 已有去除文本编码器审查的 LORA，并询问该方法与 heretic 或 cyber 版本在 glm 5.3 Flash 上的优劣对比。
一位 Reddit r/LocalLLaMA 用户搭建了本地智能体框架，配备 96+24+24GB VRAM（RTX pro 6000 + 2x3090）和 128GB 内存，用于追踪退款、监控邮件、整理病历和下单等任务。主力模型为 Qwen Flash Next q6，快速任务用 Qwen 3.6 35ba3b 搭配 Ninfer 达到 500tok/s 解码速度，并寻求能超越 QFN q6 的长程自主智能体模型推荐。
一位开发者训练了一个仅 28,708 字节的 logistic 激活探针，用于区分用户是让智能体准备动作还是批准执行。在 3,000 个测试样本上探针达到 0.8137 AUROC，高于同数据训练的文本分类器的 0.7897（p=0.0150）。测试中 MiniCPM5-1B 表现最好，有效信号来自第 13、14 层中间输出而非最后一层，探针可作为硬权限门之外补充的意图判断信号。
Qwen3.8-27B-Defiance-Uncensored-MTP-GGUF 将 DavidAU 的 Turbo-Brilliance "AI Construct" 模式套用到 HauhauCS 的无审查 Qwen3.8-27B 权重上，逐 tensor 核对了全部 866 个张量。在 RTX 4090 上以 llama.cpp 测试 IQ4_XS，40 种模式全部正常渲染，instruct 模式解码 86-90 tok/s，131K 上下文占用 21.4 GB；对易回避的提示无拒绝、无附加警告，回答长度达原版 1.4-2 倍。
Reddit r/LocalLLaMA 用户发布了一个小网站，可在购买硬件前模拟感受本地 LLM 的生成速度（tokens/s）。作者说明该工具仅作估算，实际速度因用户配置而异，并已开源 repo 供使用。
一位新手用户在 r/SillyTavernAI 提问：使用 DeepSeek V4 Pro 并开启 Vector Storage 和 CharMemory 进行长篇角色扮演时，prompt 总 token 约 85k，但每条生成消息仅 200-400 token，cache 命中率约 40%，每条消息花费约 0.1 AUD，推算 700 条消息需 70 AUD。用户询问这是否正常以及如何优化配置。
Reddit r/LocalLLaMA 用户报告 DeepSeek API 疑似出现 V4.1-Flash-1017 版本更新，发帖者随后确认该更新已上线。目前信息仅来自用户观察，DeepSeek 官方尚未发布说明。
一位 r/LocalLLaMA 用户在 Strata 上用 4070 12GB 与 v100 16GB 组成双 GPU，以 rco iq3_xxs 量化运行，单卡和双卡的 prefill 速度都只有约 200 tps，远低于他人展示的近 1k tps。即使单独在 4070 上也很慢，用户怀疑与 v100 的 PCIe gen 3.0 x4 有关，并公开了含 --expert-cache、--max-context 131072、--kv int8 等参数的启动配置征求优化建议。
用户 knoxarium 在 Reddit r/SillyTavernAI 发布了预设 Fennec R1，由 floris 精简重写而来，默认仅约 1,000 tokens，是 floris 的姊妹预设，作者欢迎反馈。
一位 LocalLLaMA 用户在 Ollama 本地 agent 环境中测试发现，Qwen3 14B 作为 judge 模型并不比 qwen3:8b 更准，还因超出 3060 VRAM 慢约 3 倍。失败主因是 judge 把 coder 仅提出而未执行的命令也扣分；在提示词中说明这一区别后，正确评分从 3/14 提升到 10/14。作者认为结构比模型规模更重要，但样本较小。
一位用户先后用过 character.ai、spicychat 和 Isekai Zero 进行 AI 角色扮演，但因审查问题想换到可本地部署的 SillyTavern，发帖询问如何把网站上的故事内容迁移到本地环境，寻求有类似经验者的建议。
