Reddit · r/LocalLLaMA· /u/DeMischi·· 2 天前AI 评分27
DeepSeek V4.1 Flash 8K 在 RTX 5090 + 64GB DDR5 上跑出 10 tok/s
10 tok/s Deepseek V4.1 Flash 8K with Strata on a 5090 with 64GB DDR5 Ram
来源与原文
Reddit · r/LocalLLaMA
作者:/u/DeMischi
发布时间:(北京时间)
阅读原始来源 · reddit.com ↗完整链接与内容说明
https://www.reddit.com/r/LocalLLaMA/comments/1xed2xx/10_toks_deepseek_v41_flash_8k_with_strata_on_a/
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
网友在 RTX 5090、64GB DDR5 和 Lexar 4TB NVMe 的 Windows 10 机器上,用 Strata 以 8K 上下文跑通 DeepSeek V4.1 Flash,速度约 10 tok/s。作者称按此速度用 API 比付电费更划算,但仍对模型能在本地 PC 上运行感到兴奋。
来源:Reddit · r/LocalLLaMA · reddit.com