跳到正文
Reddit · r/SillyTavernAI· /u/Capital-Caregiver818·· 12 天前AI 评分18

Reddit 用户分享全本地 SillyTavern AI 部署方案,征求改进建议

My fully local AI setup, for others to copy and for recommendations where to improve.

来源与原文

Reddit · r/SillyTavernAI

作者:/u/Capital-Caregiver818

发布时间:(北京时间)

阅读原始来源 · reddit.com ↗
完整链接与内容说明

https://www.reddit.com/r/SillyTavernAI/comments/1x670pt/my_fully_local_ai_setup_for_others_to_copy_and/

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

一位 Reddit 用户分享其运行两年的全本地 SillyTavern 方案:一台 9950x3d/64GB/5090 的 PC 在 Ubuntu 上用 Koboldcpp 跑 Glistening-Gem-31B-v2.1 6_K,GPU 全层加载、106496 上下文、Q8_0k 上下文量化;另一台 6700k/16GB/2080ti 机器用 SD Forge 跑 Anima 模型。后端在 SillyTavern 与 Marinara Engine 间切换,并通过 Tailscale 连接 iPad Mini,同时征求 TTS 推荐。

来源:Reddit · r/SillyTavernAI · reddit.com