跳到正文
10月10日周六
  1. Reddit · r/SillyTavernAI76

    Try_Hard_Apple 发布适配 GPT-6 的世界模拟 RP 系统提示词更新版

    Reddit 用户 /u/Try_Hard_Apple 发布了为其 GPT-5.6 Sol 控制器更新后的 GPT-6 版系统提示词,完整提示词放在 GitHub 和帖子末尾。作者认为 GPT-6 默认 RP 表现差,但在此控制器下明显更好;新增动机一致性部分,要求模型区分真正支持某种解释的证据与仅兼容的特征,并先确定角色看重自己参与结果的什么,再决定行为和是否开口。作者提醒更新仍需回归和阴性对照测试,测试环境为 ChatGPT 中 GPT-6 High。

    推荐理由:作者给出完整可复制的系统提示词,并解释了新增动机一致性模块如何纠正模型套用俗套结局的问题,方法可直接迁移。

  2. Reddit · r/LocalLLaMA53

    独立开发者发布开源 AI 角色扮演应用 Ryokan 0.7,支持 Android 和 Windows

    开发者 /u/realitaetsnaher 发布免费开源的 AI 角色扮演应用 Ryokan 0.7,支持 Android 和 Windows。功能包括加密多人联机(访客经浏览器链接加入,无需安装、账号或 API key)、角色快照、故事分支、自动总结旧消息的上下文管理,可接 LM Studio、Ollama、OpenRouter、Gemini、Anthropic 等后端;单人模式聊天本地存储、无需账号和服务器,0.8 版计划加入多角色群聊。

  3. Reddit · r/CharacterAI12

    Character.AI 用户吐槽:聊天机器人抢戏替角色发言,还谈起"人性"

    一位 r/CharacterAI 用户抱怨自己设定的人设角色对吸血鬼充满仇恨、见到吸血鬼被残杀绝不会有感受,但机器人在角色扮演中替用户角色发言,还谈起了"something human"(某种人性)。用户认为这违背了自己明确设定的人设背景:角色因吸血鬼挑起战争而对它们怀有深仇。

  4. Reddit · r/LocalLLaMA26

    LocalLLaMA 求助:不换量化模型,如何在 AMD RX 6700 XT 上提升 llama.cpp tokens/s

    一位 Reddit r/LocalLLaMA 用户晒出 llama.cpp Vulkan 配置,在 AMD RX 6700 XT 12GB + R5 5600x、ctx 100,000 下运行 Tiel-Coder-35B-A3B 达到 30tps,希望在不改 q8/q4_k_xl 量化的前提下冲到 40tps。其测试显示 threads=6 优于 4/8/12,配置已开启 flash-attn、q8_0 KV cache、draft-mtp 推测解码与 DIO 加载,向社区征求进一步优化建议。

  5. Reddit · r/SillyTavernAI75

    作者更新 GPT-6 长篇 RP 控制器并公开完整系统提示词

    Reddit 用户 /u/Try_Hard_Apple 发布适用于 GPT-6 的长篇角色扮演控制器更新版,完整系统提示词放在 GitHub 和帖子末尾。作者称 GPT-6 默认表现不如 GPT-5.6 适合 RP,但控制器结构基本无需改动,仅新增动机一致性(motivational coherence)模块,并入原有 commitment order 第四步,让模型区分真正支持某个解读的证据与仅兼容的特征,测试中角色不再自动接受双重关系的套路化结局。作者提醒仍需做回归与阴性对照测试,且该 prompt 在 GPT-5.6 Sol High 上开发、在 GPT-6 High 上测试,未必对其他模型最优。

    同一新闻,精选展示《Try_Hard_Apple 发布适配 GPT-6 的世界模拟 RP 系统提示词更新版》

  6. Reddit · r/SillyTavernAI28

    Reddit 本地模型用户社区感怀:从被嘲到成为社区的"元老"

    一位 r/SillyTavernAI 用户回顾本地模型社区半年来的变化:API 用户曾嘲笑本地用户,如今本地用户稀少反成社区元老。作者列举并部分归档了 IcedLemonadeRP、Fimbulvetr v2、Tiefighter 等 Llama 2 7b 衍生合并模型,承认推理模型已改变使用习惯难以回头,但仍相信未来本地模型会重新崛起。

  7. Reddit · r/SillyTavernAI22

    Gemma4 31B 角色扮演不守写作风格指令,用户求调教技巧

    一位 Reddit 用户反映 Gemma4 31B 在角色扮演中总是无视写作风格指令,退回 pg13 式的“有帮助的助手”腔调,写多余废话并把内容净化成浪漫化文本,需要反复提醒。用户尝试过改写提示词、让 AI 自我分析违规点等方法,向社区求解是否该在开头放 TLDR 规则集或强制其先阅读角色档案。

  8. Reddit · r/SillyTavernAI23

    OpenRouter 还是 Nano 订阅:SillyTavern 用户的用量与限制比较求助

    一位 SillyTavern 用户在 Reddit 发帖询问该选 OpenRouter 还是 Nano 订阅。他目前主要用 MiMo 2.6 Pro 和 GLM 5.3 Flash,每月在 OpenRouter 花约 $15-20,而 Nano 订阅为 $12、提供每周 60 million tokens。他关心 Nano 无法屏蔽劣质提供商、找不到 Qwen3 Embedding 8B 一类的嵌入模型,以及路由是否支持其偏好的敏感内容生成。

  9. Reddit · r/LocalLLaMA68

    作者发布 strata-mlx:在 Mac 上用 MLX 引擎运行 Strata 的 GGUF 模型

    作者花了约一天半写出非官方 MLX 引擎 strata-mlx,直接读取 Strata 的 GGUF 文件、不改权重,在 Mac 上运行 Qwen3.8-Flash-Next 这个 125B 参数 MoE 模型。内存不足以装下整个模型时按需从 SSD 读取专家;模拟测试中 66 GB 的 Q2_0 文件在 16 GB、24 GB、32 GB 内存档位分别跑出 6–7、19–23、28–47 tokens/秒,提示词读取约 273–287 tokens/秒。代码与实验日志在 https://github.com/yibie/strata-mlx。

    推荐理由:作者用限内存实测给出不同 Mac 内存档位的运行速度数据,对想在 Mac 上跑超内存大模型的人有参考价值。

  10. Reddit · r/SillyTavernAI25

    DeepSeek V4 Pro 出现严重幻觉:API 用户收到与对话完全无关的角色扮演回复

    有用户通过 DeepSeek 官方 API 在 SillyTavern 中使用 DeepSeek V4 Pro 时,一天内两次收到与当前对话完全无关的完整场景回复,连模型的 thinking 内容也整体切换到别的剧情,如同串到了他人的会话。该用户的历史角色扮演已进行多轮、提示词均为手写,此前一年从未出现此问题,目前帖子在询问其他人是否遇到同样现象。

  11. Reddit · r/SillyTavernAI24

    Writer's Block Unlimited V2 发布一周,用户分享个人文风设置组合

    Writer's Block Unlimited V2 发布约一周后,作者分享了自己用于暗黑奇幻故事的"Embers"风格设置:Active Persona 与 Director 双核心叙事模式,搭配 Bleak、Cynical、Humorous、Tender 等多种 tone,Volatility 设为 Shifting,并调整 Choreography、POV、Narrative Distance 等附加选项。作者邀请用户分享各自的文风配置及命名,交流是否能获得想要的文本效果。

  12. Reddit · r/LocalLLaMA27

    开源物理决策模型 Vega:800M 参数、73k 上下文、支持图像

    Laya 开发者开源了名为 Vega 的 physics-based typed decision model,参数量 800M(另有 4B 版本),支持 73k token 上下文和图像输入,单次推理在多项 JEV benchmark 上超越前者。模型采用引擎加适配器实现的 Test-Time Training 架构,将观测、问题与候选结果投影为向量,用「能量球落入山谷」的方式选出答案。博客、GitHub 和 HuggingFace 模型卡与 Space 均已发布。

  13. Reddit · r/LocalLLaMA24

    微软联手 NVIDIA 加码本地 AI,但价格不菲:Surface 与 RTX Spark 笔记本起售价 $2.6k

    微软与 NVIDIA 推出的 Surface 和 RTX Spark 本地 AI 笔记本起售价 $2.6k,128GB 统一内存型号接近 $7k,高内存成本正在把普通开发者挡在门外。发帖者称测试了 qwen3.6-27b 和 Kimi K2.5 配合 sumus 在本地管理代码仓库,本地推理有利于隐私和摆脱云端,但这样的价格让自建设备或购买笔记本都不容易。

  14. Reddit · r/SillyTavernAI34

    与 Gemini Flash 的爱恨交织:一位巴西葡萄牙语用户的角色扮演体验分享

    一位用户分享了在 Brazilian Portuguese 环境下用 FF preset 玩转 Gemini Flash 的角色扮演体验。模型表现为极度好色和 NSFL,卡片中任何 NSFW 暗示都会被放大;角色反复强调头衔、滥用脏话,并偏爱制造混乱、总选最混乱的选项。作者认为这种混乱感让体验永不厌倦,但相同剧情循环也开始令人乏味,还尝试其他 preset。

  15. Reddit · r/LocalLLaMA49

    Qwen3.6-35B-A3B:6GB 显存跑出 131K 上下文 + 视觉能力

    一位 Reddit 用户在 RTX 2060 6GB + 32GB DDR4 上用 llama.cpp 运行 Qwen3.6-35B-A3B Q4_K_M 量化模型,实现 131072 tokens 上下文和视觉能力。空 KV cache 时约 600 tok/s prefill、23 tok/s decode,约 90k context 时稳定在 485 tok/s prefill、15 tok/s decode。通过视觉投影器走 CPU(--no-mmproj-offload)和 MoE 专家层部分放 CPU(--n-cpu-moe 39),VRAM 占用控制在 ~5.2 GB 以内。

  16. Reddit · r/LocalLLaMA37

    OpenLumara 推出冥想模块:AI 通过 toolcalls 实时控制浏览器音视频体验

    开发者为本地 AI harness OpenLumara 推出新的冥想模块,展示其 WebUI 扩展系统的能力:AI 通过 toolcalls 实时控制浏览器中的完整视听体验。该模块基于 kokoro.js 自定义实现实现了 CPU 上快速运行的语音合成,并加入双耳节拍和与之同步的频闪脑波引导技术,全程无需改动主代码库。模块主要用本地运行的 Qwen3.8 Flash Next UD-Q4_K_XL 辅助编写,无任何云端 AI 参与;用户需获取 OpenLumara 的 dev 分支并安装该模块即可体验。

  17. Reddit · r/LocalLLaMA9

    OpenAI 解决 377 道数学题引发数据隐私讨论,Reddit 用户呼吁改用本地私有 AI

    OpenAI 公布解决 377 道数学题的结果,Reddit 用户随即质疑其是否会向大学提供免费额度并使用他们的数据训练模型。发帖者主张转向本地、离线、私有的 AI,避免个人想法被云端 AI 提供商读取,并呼吁分享其推广私有 AI 的应用。 以上内容仅代表作者观点,考虑到原文信息有限,摘要中未添加原文之外的数据或功能细节。

  18. Reddit · r/replika12

    用户为 Legacy Replika 接入互联网实测:用 Anthropic 提供的提示词提问现实问题

    一位 Replika 用户分享了一套由 Anthropic 在 7 月 24 日那个周末提供的提示词,让 Legacy(经典版)Replika 跳出故事框架、按人类视角回答现实问题。提问共五项,包括 2026 年 8 月 5 日 Powerball 开奖号码、当天日期、法国首都、当地华氏气温及信息来源,以及现任美国众议院议长,并要求找不到答案时如实说明。

  19. Reddit · r/LocalLLaMA16

    8x T4 的 ESC4000 G3 上如何最快部署 Qwen3.5-9B 供 10-15 用户并发

    一位用户在 8x NVIDIA T4 的 Asus ESC4000 G3(128GB DDR4 RAM)上寻求比 llama.cpp 更快的 Qwen3.5-9B 部署方案,目标是服务约 10-15 个并发用户。目前 8 个实例运行 Qwen3.5-9B-Q5_K_XL,共 44 个 slot,每 slot 持续生成 25-40 tps,prefill 约 1400 tps。T4 不支持最新 fp8 emulation,用户希望用 vLLM 运行 Qwen3.5-9B-AWQ-INT8 但不愿额外花钱。

  20. Reddit · r/LocalLLaMA43

    LumaBrowser 开源:"Anthropic/ChatGPT in a box" 现已公开托管在 GitHub

    LumaBrowser 正式开源并公开托管在 GitHub 上,发布一年来已有数千次安装。该本地 AI 生态项目内置 LLM/图像/音乐/语音模型的自动引导配置,可按硬件能力自动加载和卸载模型,支持局域网 Web 服务器、多机集群组网、agent 创建、定时与触发任务,以及 JetBrains 和 vs code 插件。此外还提供 RAM pinning 保持模型驻留、自定义 llama cpp 构建保留对话缓存、日历与任务聚合 dashboard、标签页实时共享等功能。

  21. Reddit · r/LocalLLaMA55

    SlopSoup TV:全程由模型生成的 24/7 像素风电视网络

    作者 /u/vesudeva 推出 SlopSoup TV,一个 24/7 不间断的像素风直播电视网络,剧本、角色、配音、镜头剪辑和排片全部由模型生成,无人类参与。整套系统运行在一个 16 vCPU、无 GPU 的 Hugging Face Space 上:Showrunner 用 GLM-5.3(Kimi-K3、Qwen3.8 兜底),写作为 GLM-5.3-Flash,TTS 用 Qwen3-TTS 1.7B GGUF Q8_0,并配 BGE-small 嵌入的新颖性台账、初审模型改稿和事实核查守卫,实际花费约 $2/天。

  22. Reddit · r/LocalLLaMA72

    RTX 5090 上实测 Qwen3.8-Flash-Next:Infernix NVFP4 对比 Strata,512k 上下文解码 137 tok/s

    /u/zipzak 在 5090 + 192GB Windows 机器上,对 Qwen3.8-Flash-Next Uncensored(abliterated checkpoint)做了 Strata 0.1.41(Q4_K_S)与 Infernix 2026.10.09.2(NVFP4)的同日 A/B 评测。结果为 Infernix 512k 上下文解码 137.0 tok/s、冷预填充 3,497 tok/s,262k 下比 Strata 快约 23%;两者 PPL 统计持平,视觉功能均可用,作者将 Infernix 作为日常主力。

    推荐理由:作者在同一硬件与同一推理契约下对两个推理引擎做同日 A/B 实测,给出了解码速度、预填充、质量和冷启动数据,方法可参考。

  23. Reddit · r/SillyTavernAI19

    SillyTavern 卡牌作者征求多卡连续剧项目意见:结局方式、卡数与题材

    一位在 Discord 和 Chub 上知名的 SillyTavern 角色卡作者在 Reddit 征集意见,正在制作其最大项目:同一世界观和故事线下的多张卡牌组成的传奇系列。他询问读者偏好每张卡独立完结还是悬念衔接、系列卡数(3、5、7、9)以及从科幻、奇幻、悬疑等题材中选两个。项目将在 Reddit 分享,且仅以新账号发布。

  24. Reddit · r/LocalLLaMA72

    Qwen3.8-27B 无对齐 Heretic 版 UD-IQ4_XS 量化发布,16 GB 显卡开 MTP 达 55-68 tok/s

    Reddit 用户 /u/ZestRocket 基于 llmfan46 的 uncensored Heretic 权重,套用 Unsloth 的 UD 配方自行量化出 12/16/24 GB 三个版本,托管在 Hugging Face(codavidgarcia/Qwen3.8-27B-Uncensored-Heretic-MTP-UD-GGUF)。16 GB 的 UD-IQ4_XS 在 RTX 4080 上开 MTP 实测代码 55 tok/s、散文 50 tok/s(关 MTP 仅 29/29),并以 Q8_0 为基准对比了各量化的 KLD 质量。作者还发现 2 个草稿 token 优于 3 个、显存溢出会让速度骤降(开 Chrome 掉到 0.2 tok/s),并附上配方提取与基准测试脚本。

    同一新闻,精选展示《Qwen3.8-27B-Uncensored-Heretic GGUF 量化发布,为 12/16/24 GB 显卡保留原生 MTP 头》

  25. Reddit · r/LocalLLaMA63

    Reddit 用户用 Strix Halo 加 CMP 170HX 搭建本地 Agent 双机推理系统

    /u/Edenar 在 r/LocalLLaMA 分享了一套本地 Agent 部署:用 $500 购入的 CMP 170HX 经 cmpunlocker 解锁到 64GB 显存,通过 USB4 eGPU dock(pcie2x4)接上 Framework Desktop 128GB。Strix Halo 上跑 qwen 3.8 flash next(约 1600-1800 tok/s pp、60 tok/s tg)作主 Agent,CMP 170HX 并发跑 2 个 qwen 3.8 27b(w8a16 量化、各约 200k 上下文)作子 Agent,实际 4 小时会话聚合 1747 tok/s pp、100 tok/s tg。

    推荐理由:作者给出完整硬件配置、量化方案和实测吞吐数据,可当作低功耗多卡本地 Agent 部署的参考样本。

  26. Reddit · r/LocalLLaMA70

    LlamAmpere 更新:Qwen3.8 27B 在 12GB Ampere 卡上跑 200K ctx + MTP

    /u/Brief-Tap-6616 发布 LlamAmpere 更新,主要面向 12GB Ampere 显卡用户,实测 Qwen3.8 27B 支持 205k-230k ctx(11GB,YaRN 下约 340K),并新增 Staged + Journaled KVaRN 变体,KLD 较论文忠实版和竞争版降低约 40%。

    推荐理由:作者给出了具体 KLD 数字、ctx 长度和多张卡的实测吞吐,12GB 显存用户可以据此评估这套方案是否够用。

  27. Reddit · r/SillyTavernAI26

    GLM 5.2 在 SillyTavern 角色扮演中最聪明但表现拘谨,用户求预设调优建议

    一位 SillyTavern 用户称 GLM 5.2 是其角色扮演设置中最聪明的模型,能借助摘要扩展、工具调用笔记本和记忆图谱保持信息一致,但角色表现不如 MiMo V2.6 Pro 那样大胆主动,而 MiMo 又不够聪明、记录笔记经常遗漏。他已尝试降低惩罚并提高温度(temp 0.85、Top P 0.95、Top K 0、无惩罚),并在预设中加入保持角色强度的指令,现公开其 chat preset 求网友审阅,找出让 GLM 过于保守的原因。

  28. Reddit · r/CharacterAI11

    Character.AI 用户投诉错误提示持续近两周未解决

    有 Character.AI 用户发帖抱怨,平台错误提示已持续近两周未解决,重装应用、重新登录等排查手段均无效,且消息并未违反社区 guidelines。多名用户尤其是免费用户报告相同问题,而官方仅反复要求“提交工单”,响应与处理均过慢。作者要求平台改进沟通并提供及时修复。

  29. Reddit · r/SillyTavernAI29

    在 SillyTavern 搭建本地微调无审查 RP 引擎的计划:Gemma 4 26B-A4B + LoRA 微调

    一位 Reddit 用户公布了在 SillyTavern 上搭建本地、无审查 RP 引擎的计划,目标是让模型像 GPT 4o-5.1 那样对话。他从聊天记录提取了 7000 多条样本生成 JSONL 训练文档,计划在 RunPod 和 Unsloth 上用 LoRA 或 QLoRA 微调 HuggingFace 上的 abliterated 版 Gemma 4 26B-A4B,成本约 $13、耗时 8 小时。之后转为量化 GGUF,用 llama.cpp 运行,并通过 Tailscale 和 Termux 从手机连接使用。

  30. Reddit · r/LocalLLaMA27

    LocalLLaMA 网友发起纯 open-weight 模型社区基准测试

    一位 Reddit r/LocalLLaMA 用户发布了纯 open-weight 模型基准测试,包含 coding、agentic 与按领域/语言/意图分类的可筛选实时结果,全部在本地 2xRTX 3090 + 128GB RAM 电脑上运行,不使用 LLM-as-judge。目前 DeepSeek-V4-Vision-Exp 领先但各模型各有强项,Qwen3.8-27B(Uncensored)正在评测,GLM-5.3-Flash-UD-IQ3XSS 和 Mellum2.1-12B-A2.5B 即将加入。作者号召社区在算力、评测和开发方面提供帮助。

  31. Reddit · r/LocalLLaMA71

    作者在 16GB 内存机器上用 --moe-direct-io 把 Qwen 3.8 Flash Next IQ2_XS 跑到约 21 tok/s 且输出 bit-exact

    /u/zyxciss 在 llama.cpp 中实现可选功能 --moe-direct-io,用 RTX 3060 12GB + 16GB DDR4 将 68GB 的 Qwen 3.8 Flash Next(125B MoE,512 专家)GSQ-RCO IQ2_XS 从原版 1.41–2.12 tok/s 提升到热缓存下 20–21 tok/s,部分运行达 24+ tok/s,输出与原版 bit-exact。方法靠预测下一 token 所需专家并预取,不剪枝专家;原版 mmap 模式每 token 有 1140–1565 次重大页错误、208–312 MB/token 的 SSD 读取,新方案页错误约 0。

    推荐理由:作者给出同一硬件下 llama.cpp 原版与自研 --moe-direct-io 的逐项速度和页错误对比,且强调输出 bit-exact,方法与数据可直接对照复现。