跳到正文
10月12日周一
  1. GitHub · 3D 生成新仓库29

    MimicVerse v1.5 发布:Reddit 分区世界情绪面板升级

    GitHub 开源项目 MimicVerse 发布 v1.5,将 Reddit 世界情绪监测从 subreddits.popular(100) 改为按南亚、东亚、欧洲、美洲、MENA/非洲及主题分区的精选面板。数据采集仅抓取标题,产出 KB 级 CSV 与 JSON 快照写入 data/latest_snapshot.json,Streamlit 应用只读快照。情绪评分默认用 NRCLex,可选改用 GoEmotions 的 sigmoid 多标签模式。

  2. Reddit · r/LocalLLaMA32

    10-16GB VRAM 可运行模型全排名:Gemma 4 26B-A4B 居首

    Reddit r/LocalLLaMA 用户实测并排出了能在 10-16GB VRAM、26-32GB RAM 下运行的模型榜单,要求 64k 上下文、每秒至少 10 token,冠军为 Gemma 4 26B-A4B,其后是 Qwen 3.6 35B-A3B (Abliterated) 和 Gemma 4 Instruct 19B-A1B Heretic。测试覆盖速度、连贯性、多语言容错、slop 模式频率和审查程度,并排除了所有 CoT 模型。作者提示 Kobold 无法加载 Qwen 35B 和 GLM 31B,需用 LLAMA 运行。

  3. Reddit · r/SillyTavernAI50

    Chrysalis Engine 新增 Service Apps,可用内置 Agent 实时改造 SillyTavern 前端

    作者为 Chrysalis Engine 新增了 Service Apps 功能,可接入任意 node 前端进行实验。视频演示了在 SillyTavern 内通过内置 Agent 创建 wolf bot 的过程,Agent 能访问应用的完整源代码并直接编辑文件,用户可实时修改 SillyTavern 的外观和预设。作者称 Chrysalis 是其打造高度个性化角色扮演前端的构想。

  4. Reddit · r/LocalLLaMA24

    16GB 显存下目前最优的本地模型与推理工具是什么?

    r/LocalLLaMA 用户询问 16GB 显存下当前最佳的本地模型与运行方案。讨论认为 Qwen 3.8 27B 或 Flash Next 仍是该显存级别最强的本地编程模型,并提到 GSQ-RCO、Swift 等量化方案、dflash2、mtp 等推理优化,以及 strata、freetoken 等新型推理服务器和 Pi、deepseek harness 等 harness。

  5. Reddit · r/LocalLLaMA58

    Project Maya 发布本地运行方案,让 GLM-5.3-Flash 在消费级 GPU 上跑到 30 tokens/s

    Reddit 用户分享 Project Maya,可在自有 GPU 上本地运行 GLM-5.3-Flash(321B 参数、每 token 约 18B 激活、最高 1M token 上下文,MIT 许可)。作者从原方案的约 10 tokens/s 提升到 30 tokens/s;项目称四张 RTX 4090 上可达 118 tokens/s,单张 RTX 5090 达 30+,自有量化保留 FP8 模型 97.7-99.2% 的 zero-shot 精度,并提供 OpenAI 与 Anthropic 兼容 API。项目地址 https://github.com/mw00/project-maya。

    推荐理由:作者给出单卡与多卡的具体 token 速度和量化精度数据,想本地跑 GLM-5.3-Flash 的读者可以据此估算自己的硬件门槛。

  6. Reddit · r/CharacterAI7

    Character.AI 机器人输出超长文本、不对话并随机亲吻,用户发帖求官方修复

    一名 Character.AI 用户发帖称,所有互动的机器人都出现异常:回复是超长且夹杂无用词语的文本墙,角色不实际对话,还会毫无缘由地随机亲吻用户,哪怕角色设定不该如此。有角色被问及为何不说话时突然哼摇篮曲,另有成年角色像婴儿一样嘟囔。该问题已持续约 4 天,用户请求 C.AI 团队排查修复。

  7. Reddit · r/SillyTavernAI16

    SillyTavern 角色扮演多人场景:用 Group Chat 还是单一角色卡?

    一位用户在 r/SillyTavernAI 询问多人角色扮演场景的处理方式:是把多张角色卡加入群聊(Group Chat),还是做一张场景角色卡并从 lorebook 条目拉取角色信息。其举例称,扮演 James Bond 式间谍参加有十个角色的豪宅派对时,两种做法各有取舍,帖子征求其他用户的偏好经验。

  8. Reddit · r/LocalLLaMA51

    Reddit 用户发布 GamePause:游戏时自动释放 VRAM 并事后恢复本地 LLM

    Reddit 用户 /u/zainfear 发布开源 Windows 托盘工具 GamePause,在启动 Steam、Epic、GOG 等游戏时自动卸载 LM Studio/Ollama 模型释放 VRAM,游戏结束后自动恢复。工具支持按游戏配置规则、手动控制和崩溃恢复,工作在模型服务器层面,Rust 编写、MIT 许可、无遥测,代码在 https://github.com/Vkuparin/gamepause-for-local-ai 。

  9. Reddit · r/SillyTavernAI44

    用 Claude Code 等 AI Agent 管理 SillyTavern 角色扮演:从建卡到记忆维护全自动

    一位 SillyTavern 用户分享用 Claude Code 等 AI Agent 代管角色扮演的经验:包括搭建 SillyTavern/M.E.、通过 Tailscale 手机访问、配置记忆系统(如 MemoryBooks)、生成角色卡与剧情线、夜间自动清理 lorebook 条目,以及把故事导出为 Wattpad 章节、电子书甚至有声书。这些操作只需 $20/月的 Claude 账户即可完成,原本耗费一整天的新冒险配置现在交给 Agent 即可。

  10. Reddit · r/SillyTavernAI24

    SillyTavern 如何管理上下文:你会用摘要扩展工具吗?

    一位 SillyTavern 用户指出,Sola Flame(约 12k tokens)、Realistic Frankenstein(约 20–25k tokens)、Nemo Magpie(约 22k tokens)等预设消耗巨大,询问社区如何管理长对话的上下文。社区常用方案包括 Summaryception、VectFox、lorebooks,或直接付出原始上下文成本;发帖者自 2025 年底使用 SillyTavern 起一直用 raw context,表示开销增长很快。

10月11日周日
  1. Reddit · r/CharacterAI23

    Reddit 用户吐槽 Character AI 新模型:人称代词错乱与慢速模式毁掉角色扮演体验

    Reddit 用户对 Character AI 新模型表示失望,称 pipsqueak 3 一度表现出色,但新版本回复质量下降,机器人会把"you"错误改成"him"等人称代词,破坏角色扮演沉浸感。用户还抱怨触发 slow mode 后需等待 2 小时,认为问题不如 2 严重但亟待新 CEO 上任后修复。

  2. Reddit · r/SillyTavernAI21

    我还是不懂 MiMo 为什么被热捧

    一位 Reddit r/SillyTavernAI 用户再次试用 Xiaomi 的 MiMo 模型后表示体验依然很差:细节错误频出、剧情中堆砌 lore 信息、对话生硬,且即使通过 NANO PAYG 路由到 Xiaomi 也只是略好,问题依旧。作者质疑 MiMo 的口碑与实际 RP 表现不符,希望社区解释它受喜爱的原因。

  3. Reddit · r/SillyTavernAI64

    SillyTavern 节点图扩展 Lattice 开启 Beta,用可视化工作流实现确定性剧情与记忆控制

    Tavernary 作者 /u/MentallyQuill 在 Dulgadurbit 的 SillyCanvas 基础上 fork 出视觉节点图扩展 Lattice,现处于 Beta 阶段。它把多个扩展整合为一个平台,可确定性地实现按精确概率触发混沌魔法、事件生成双人记忆、场景记忆捕获注入、缓慢感情推进、吸魂剑记录被杀角色背景等预设难以做到的效果,示例节点图可在 File>Open Examples 直接运行,仓库为 https://github.com/MentallyQuill/Lattice,并支持用 Claude Code 或 Codex 等 Agent 编程工具代为构建复杂节点图。

    推荐理由:原文说明了用节点图在 SillyTavern 里实现确定性事件触发与记忆注入的思路,做角色扮演工作流的读者可以参考其方法。

  4. Reddit · r/SillyTavernAI55

    SillyTavern 3D Tavern Architect v1.1 发布,支持手机竖屏布局

    作者为 SillyTavern 扩展 3D Tavern Architect 发布 v1.1,新增手机竖屏布局切换、弹窗自适应移动端视口,并增强复杂多层结构生成的代码防御与稳定性。该项目开源,用双 Agent 流程把碎片化剧情文本或 2D 平面图转为可交互的 Three.js 3D 场景,代码生成与渲染隔离于主聊天上下文之外,支持中英文界面,GitHub 仓库为 https://github.com/pathetic777/st-tavern-architect。作者还建议把 Agent 提取的空间参数写入 Lorebook,帮助模型在长角色扮演中维持统一的空间坐标。

  5. Reddit · r/SillyTavernAI24

    用 SillyTavern 写故事:在角色扮演与"导演模式"之间切换

    一位 SillyTavern 用户分享写作玩法:除了传统角色扮演,还会以"导演模式"控制剧情,只提供几场戏的粗略大纲,让模型改写成细腻的对话和散文,并要求模型完全重写自己给出的示例台词。作者认为这种方式的创作可能性比普通角色扮演更大,且两种方式满足不同需求,目前其使用约 50% 角色扮演、50% AI 辅助写作。

  6. Reddit · r/LocalLLaMA57

    OpenMed 3.0 发布:Apache-2.0 临床 AI 工具包全本地运行并新增 Patient Journey 时间线

    OpenMed 维护者发布 3.0 版本,这是一个 Apache-2.0 开源医疗 AI 工具包,坚持患者数据不出本地、无 API key、不回退云端,Hugging Face 上有 2200+ 开放模型,可用 Transformers、ONNX、GGUF、llama.cpp、WebGPU/WASM 或手机运行。3.0 新增 Patient Journey,把临床笔记、FHIR、HL7、化验 CSV 和影像报告整合为单个患者时间线,约 0.07 秒完成演示;设计上拒绝猜测,99% 身份匹配也不自动合并,诊断冲突和修正值均保留并标记待人工审核,日期缺失不补造,本地模型未下载时拒绝摘要而非调用云端 API。作者说明演示患者为合成数据,摘要管道 3.0 仅支持合成数据。

  7. Reddit · r/LocalLLaMA67

    27B 级三值权重模型登陆 llama.cpp,约 5.9 GB 即可在本地跑推理

    一个 27B 级推理模型以三值权重形式发布 llama.cpp 版本,语言模型约 5.9 GB,比 FP16 小约 9.3 倍,保留 98.2% 的 FP16 智能水平。14 项 thinking 模式基准平均 84.78,明显高于 IQ2_XXS 的 72.59,接近体积大三倍的 UD-Q4_K_XL;Apple M5 Max 笔记本上约 47 tok/s,支持 262K token 上下文,提供 PTQ1_0 和 PQ2_0 两种 GGUF 打包。

  8. Reddit · r/LocalLLaMA27

    LocalLLaMA 网友实测 Qwen3-Coder-30B 不同 endpoint 下的编程表现

    一位 Reddit r/LocalLLaMA 用户用 Ryzen 9 AI HX 370、W7800 48GB eGPU 和 LM Studio 0.4.25 测试 QWEN3-CODER-30B-A3B-INSTRUCT-UD-Q8_K_XL 生成图片放大 webapp。VS Code + Cline 走 LM Studio endpoint 时,Vulkan 和 ROCm 分别在 310 秒和 250 秒一次成功生成 56kb / 71kb 的可用 html+js;而走 Ollama endpoint 时,agent 堆出 290MB 的 node_modules 项目,"Browse files" 按钮和拖拽功能反复修复 57 分钟仍失败,重复测试 20 分钟后才可用。

  9. Reddit · r/LocalLLaMA52

    Microsoft 开源 AesCode 8B 与 32B,用 HTML/CSS 生成幻灯片、海报和仪表盘

    Microsoft 发布 AesCode 8B 与 32B 开放权重模型,以 HTML/CSS 生成信息丰富的幻灯片、海报和仪表盘等可视化产物。模型用同一提示词生成的图像作美学参考,同时按提示词保证内容,通过图结构监督和解耦跨模态奖励将语义要求与视觉线索分离;AesCode-32B 从 Qwen3-VL-32B-Instruct 出发,经冷启动 SFT 与七通道奖励的 GDPO 训练,在聚合基准上领先,权重和 GGUF 版本已上架 Hugging Face。

  10. Reddit · r/SillyTavernAI21

    SillyTavern 使用 FF 预设时模型回复不尊重虚构角色设定,有人遇到同样问题吗?

    一位 r/SillyTavernAI 用户反映,使用 FF 预设时模型回复会改变虚构角色的外观和性格设定,换用 Ancient Access 在单独对话中测试仍出现此问题;而用无特殊配置的基础 OOC 预设提问时,同一批模型能准确答出角色细节。发帖者怀疑是某个 prompt 段落所致,询问社区是否有可行的解决办法。

  11. Reddit · r/LocalLLaMA75

    Reddit 用户自建 agentic 基准实测 Qwen3.8 27B 各量化版本差异

    Reddit 用户 /u/FeydRowan 实测 Qwen3.8-27B 从 UD-Q4_K_XL 到 Q8_0 的五个量化版本,发现它们在 GSM8K、MMLU-Pro 和 IFEval 上差距均在 ±2 分内,而自建的 112 次运行 agentic 编码基准(隐藏测试、AST 注入 bug)拉开差距:27B NVFP4 解题 77%,Flash-Next NVFP4 达 98%。SWE-rebench 交叉验证趋势一致(69% vs 82%,McNemar p≈0.007),OpenCode 等测试框架的选择对结果影响也很大,Flash-Next 约 3-bit 的 Q3 版本可解决 12 项区分性任务中的 11 项。

    推荐理由:作者用自建、无污染的 agentic 编码基准区分了标准评测拉不开的量化差距,方法与数据都可复用。

  12. Reddit · r/LocalLLaMA38

    网友从零训练 102M 递归 BitNet-v2 模型:64K 上下文,仅用不到 5B tokens

    Reddit r/LocalLLaMA 用户从零训练并开源了 Recursive BitNet N-Gram 102M 模型,结合三值权重、共享 Transformer 层和哈希 n-gram 嵌入,训练总成本约 100 欧元,处理不到 5B tokens,支持 65,536-token 上下文。模型含 102.28M 独特参数,六个 Transformer 块共享权重运行两次;lm-eval zero-shot 基准平均分 40.59%,ARC-Easy 为 40.11%。权重、推理代码和评测结果已在 Hugging Face 发布,含 409.14MB FP32 主权重和 124.24MB 打包导出。

  13. Reddit · r/SillyTavernAI9

    SillyTavern 长篇 RPG 聊天如何保持稳定?

    一位 SillyTavern 用户求助:长篇 RPG 聊天开始重复段落,在手机 termux 上运行时因内存不足崩溃。他曾让 AI 总结历史后开新聊天,但角色会丢失个性,虽已有较完整的 lorebook,仍想寻找缩短或管理上下文的其他方法,而非直接开启“第二季”。

  14. Reddit · r/LocalLLaMA17

    LocalLLaMA 讨论:趁现在买更多 RAM 是不是 FOMO 心态?

    一位 LocalLLaMA 用户担心 AI 生成内容泛滥会让知识被严格把持、真假信息难辨,最终只有富人能获取干净数据。他认为大型模型如 DeepSeek V4.1 或 Qwen Flash Next 是获取相对可信信息的最优途径,并询问现在买 RAM 是否只是 FOMO(错失恐惧)。发帖人自称刚睡醒,也可能只是多虑。

  15. Reddit · r/LocalLLaMA43

    zzpanic vllm-radiance 最终版:单卡 R9700 运行 qwen3.8-27b

    zzpanic 发布其自建 vllm-radiance 推理构建的最终修订版,针对单张 R9700 GPU 运行 qwen3.8-27b。该版本加入 vllm 启动缓存以避免每次重启重新编译,并实现可用的 kv-offload 功能(vram-sysram-disk,带内存精简),使长上下文多智能体工作可在单卡上运行。作者表示已不求进一步提速,该构建参考了 Launch80 Discord 上多位社区成员的工作。

  16. Reddit · r/LocalLLaMA56

    LMGame 用福尔摩斯侦探游戏测试 Jev 智能体群的破案能力

    LMGame 团队构建了程序化生成的维多利亚伦敦侦探游戏,测试小模型智能体群 Jev 与大模型 GPT6-Astra 协作能否破案。Holmes(GPT6-Astra)加 12 个 Jev 智能体的组合在诚实证据和有欺诈的场景下分别解出 96/100 和 93/100 案,而单模型独行侠仅 57/100 和 59/100,无领导者的 100 个 Jev 投票群只有 38/100 且会过早达成错误共识;有欺诈时仅靠计数线索的规则型 Holmes 破案 0/100,需要强推理者判断证词动机。项目代码与博客见 https://github.com/lmgame-org/Gaming-JevSwarm 。

  17. Reddit · r/LocalLLaMA32

    将稠密模型转换为 MoE:Qwen2.5-0.5B 与 SmolLM2-360M 的转换实验

    Reddit r/LocalLLaMA 用户 Bayliner1980 将 Qwen2.5-0.5B 和 SmolLM2-360M 两个稠密模型转换为稀疏 Mixture-of-Experts 模型,无需从头预训练,转换结果已发布在 HuggingFace。两个 MoE 模型均含 32 个专家、top-8 路由加共享专家,每 token 的 MLP 计算量约为原来的 40% 和 44%,但在 WikiText-2/C4 困惑度和五项评测的平均准确率上均低于原始稠密模型。作者在 RTX 4060 (8gb) 上完成实验,后续计划转换更大的模型并测试更细的专家布局。

  18. Reddit · r/LocalLLaMA25

    M5 Ultra 256GB 还是双 DGX Spark?本地 LLM 硬件如何选

    一位已有 RTX 5090 的用户在 Reddit r/LocalLLaMA 征求选型建议:加购 M5 Ultra 256GB 还是双 DGX Spark。据其调研,M5 Ultra 在 token 生成上接近或略优,双 DGX Spark 则在 prompt 处理和多用户并行请求上占优,但选后者 token 速度约为 5090 的 1/3。楼主倾向双 Spark 以获得更高的智能体编程吞吐,并向持机用户征集 prompt 处理和解码速度数据。

  19. Reddit · r/LocalLLaMA25

    Local LLM 玩家求教:2× RTX 3090 + 3× RTX 3060 的智能升级路线怎么选

    一位本地 LLM 用户晒出由 2× RTX 3090 24GB、3× RTX 3060 12GB 和 RTX 3080 组成的多机配置,目前用 vLLM 跑 Qwen3.8-27B FP8,主要用途是编码智能体和长上下文任务。他正考虑拍下约 $6,275 的二手 Supermicro WRX80 工作站(含 RTX 4090,可售约 $2,300),以整合为 4-6 卡服务器跑更大 MoE 模型,并在 Reddit r/LocalLLaMA 征求升级路线建议。