Reddit · r/SillyTavernAI· /u/Capital-Caregiver818·· 12 天前AI 评分18
Reddit 用户分享全本地 SillyTavern AI 部署方案,征求改进建议
My fully local AI setup, for others to copy and for recommendations where to improve.
来源与原文
Reddit · r/SillyTavernAI
作者:/u/Capital-Caregiver818
发布时间:(北京时间)
阅读原始来源 · reddit.com ↗完整链接与内容说明
https://www.reddit.com/r/SillyTavernAI/comments/1x670pt/my_fully_local_ai_setup_for_others_to_copy_and/
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
一位 Reddit 用户分享其运行两年的全本地 SillyTavern 方案:一台 9950x3d/64GB/5090 的 PC 在 Ubuntu 上用 Koboldcpp 跑 Glistening-Gem-31B-v2.1 6_K,GPU 全层加载、106496 上下文、Q8_0k 上下文量化;另一台 6700k/16GB/2080ti 机器用 SD Forge 跑 Anima 模型。后端在 SillyTavern 与 Marinara Engine 间切换,并通过 Tailscale 连接 iPad Mini,同时征求 TTS 推荐。
来源:Reddit · r/SillyTavernAI · reddit.com