Reddit · r/SillyTavernAI· /u/Opposite-Cup2850·· 17 天前AI 评分23
SillyTavern 新对话前应预留多少 VRAM？LM Studio 实测经验分享
How much vram do you leave available when starting a new chat?
来源与原文
Reddit · r/SillyTavernAI
作者：/u/Opposite-Cup2850
发布时间：（北京时间）
阅读原始来源 · reddit.com ↗完整链接与内容说明
https://www.reddit.com/r/SillyTavernAI/comments/1x2kj6d/how_much_vram_do_you_leave_available_when/
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
一位 SillyTavern 用户在测试不同模型时探讨开启新对话需预留多少 VRAM，其上下文设置为 44k。实测发现 VRAM 并不随聊天推进而增长；即便上下文超出显存容量，占用也会封顶在 15.5/16 GB，超出部分卸载到共享内存，导致响应明显变慢。结论是只要不触及 15.5 GB 且共享内存保持在 0.1-0.3，LM Studio 中设置的上下文上限即可放心使用。
来源：Reddit · r/SillyTavernAI · reddit.com