跳到正文
Reddit · r/LocalLLaMA· /u/Jumbomuffin1312·· 12 天前AI 评分52

XeMaya 推理引擎发布,在 Intel Arc 上原生运行 DeepSeek V4.1 与 GLM 5.3

XeMaya, an Intel Arc inference engine to run DeepSeek V4.1 and GLM 5.3

来源与原文

Reddit · r/LocalLLaMA

作者:/u/Jumbomuffin1312

发布时间:(北京时间)

阅读原始来源 · reddit.com ↗
完整链接与内容说明

https://www.reddit.com/r/LocalLLaMA/comments/1xt2mjk/xemaya_an_intel_arc_inference_engine_to_run/

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

作者发布 XeMaya,一个基于 SYCL 和 Level Zero 的 XeStrata 分支,用于在 Intel Arc GPU 上原生运行 DeepSeek V4.1 Flash、GLM 5.3 Flash 等新 MoE 模型。在 B70 32GB、B65 32GB、B60 24GB 加 128GB 内存的 Ubuntu 服务器上实测,GLM 5.3 Flash 速度从原版 llama.cpp SYCL 的 68.3/13.6 tok/s 提升到 152-161/17.4(MTP 下生成约 20),DeepSeek V4.1 Flash Coder 优化后达 224.8/21.7 tok/s;384-expert 完整版 prefill 仍待优化,且因 B60 走慢速芯片组链路,两卡反而比三卡快。

来源:Reddit · r/LocalLLaMA · reddit.com