Reddit · r/LocalLLaMA· /u/Jumbomuffin1312·· 12 天前AI 评分52
XeMaya 推理引擎发布,在 Intel Arc 上原生运行 DeepSeek V4.1 与 GLM 5.3
XeMaya, an Intel Arc inference engine to run DeepSeek V4.1 and GLM 5.3
来源与原文
Reddit · r/LocalLLaMA
作者:/u/Jumbomuffin1312
发布时间:(北京时间)
阅读原始来源 · reddit.com ↗完整链接与内容说明
https://www.reddit.com/r/LocalLLaMA/comments/1xt2mjk/xemaya_an_intel_arc_inference_engine_to_run/
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
作者发布 XeMaya,一个基于 SYCL 和 Level Zero 的 XeStrata 分支,用于在 Intel Arc GPU 上原生运行 DeepSeek V4.1 Flash、GLM 5.3 Flash 等新 MoE 模型。在 B70 32GB、B65 32GB、B60 24GB 加 128GB 内存的 Ubuntu 服务器上实测,GLM 5.3 Flash 速度从原版 llama.cpp SYCL 的 68.3/13.6 tok/s 提升到 152-161/17.4(MTP 下生成约 20),DeepSeek V4.1 Flash Coder 优化后达 224.8/21.7 tok/s;384-expert 完整版 prefill 仍待优化,且因 B60 走慢速芯片组链路,两卡反而比三卡快。
来源:Reddit · r/LocalLLaMA · reddit.com