GenieX 让 GGUF 模型可在骁龙 X 系列 Hexagon NPU 上运行

GenieX 发布，可在骁龙 X 系列（含 X2 Plus 和 Elite）芯片的 Hexagon NPU 上直接运行任意 GGUF 格式大模型。该工具整合了此前 Nexa SDK 的工作与 llama.cpp 的 Hexagon NPU 及 Adreno OpenCL 后端，通过签名驱动实现 NPU 推理。支持 Windows、Linux 和 Android 系统，并提供基于 llama-server、兼容 OpenAI API 的网页服务。 Reddit 上有用户对 GenieX 及原 Nexa SDK 团队实现 GGUF 在 Hexagon NPU 上运行表示祝贺，并分享了相关实测信息；具体实测数据细节未在现有报道中给出。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。