跳到正文
Reddit · r/LocalLLaMA· /u/DeMischi·· 2 天前AI 评分27

DeepSeek V4.1 Flash 8K 在 RTX 5090 + 64GB DDR5 上跑出 10 tok/s

10 tok/s Deepseek V4.1 Flash 8K with Strata on a 5090 with 64GB DDR5 Ram

来源与原文

Reddit · r/LocalLLaMA

作者:/u/DeMischi

发布时间:(北京时间)

阅读原始来源 · reddit.com ↗
完整链接与内容说明

https://www.reddit.com/r/LocalLLaMA/comments/1xed2xx/10_toks_deepseek_v41_flash_8k_with_strata_on_a/

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

网友在 RTX 5090、64GB DDR5 和 Lexar 4TB NVMe 的 Windows 10 机器上,用 Strata 以 8K 上下文跑通 DeepSeek V4.1 Flash,速度约 10 tok/s。作者称按此速度用 API 比付电费更划算,但仍对模型能在本地 PC 上运行感到兴奋。

来源:Reddit · r/LocalLLaMA · reddit.com