Reddit · r/LocalLLaMA· /u/chota23·· 20 小时前AI 评分47
DeepSeek V4.1 Flash 1017 在 4× RTX 3090 + 256GB DDR4 上运行测试(Maya 引擎)
Deepseek V4.1 flash 1017 on 4rtx3090 + 256ddr4 ( Maya - engine )
来源与原文
Reddit · r/LocalLLaMA
作者:/u/chota23
发布时间:(北京时间)
阅读原始来源 · reddit.com ↗完整链接与内容说明
https://www.reddit.com/r/LocalLLaMA/comments/1xnkr5q/deepseek_v41_flash_1017_on_4rtx3090_256ddr4_maya/
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
Reddit r/LocalLLaMA 用户用 4× RTX 3090 和 256GB DDR4,通过 Maya 引擎运行 orcarouter/DeepSeek-V4.1-Flash-1017-abliterated-GGUF(mix-256G),上下文长度达 524k,prefill 400–600 tok/s,decode 30–40 tok/s(配合 dspark 峰值 60 tok/s)。作者与 Qwen 3.8 Next Flash(Q8)对比,认为新版本比 0731 版更少出现循环问题,但 Q8 量化下 decode 仅 6–8 tok/s;做 agentic 任务时仍偏好速度更快的 Qwen。
来源:Reddit · r/LocalLLaMA · reddit.com
这条消息,你怎么看?
把新闻带到 MickerBook,和社区伙伴聊聊;也可以去 AIHER 看看模型背后的角色与梗。