跳到正文
GitHub · 灵魂体仓库·· 6 天前AI 评分23

Qualcomm efficient-transformers:面向 Qualcomm Cloud AI 的 LLM 高效推理库更新动态

qualcomm/efficient-transformers

来源与原文

GitHub · 灵魂体仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/qualcomm/efficient-transformers

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

Qualcomm 开源的 efficient-transformers 库将预训练 LLM 重写为可在 Qualcomm Cloud AI(AI100、AI200 等)上高效推理的优化形式,提供图变换、低精度执行、ONNX 导出、Patcher 与示例应用等能力。最新动态包括 07/2026 新增 Kimi-K2.5 视觉语言模型支持和 QEFFAutoModelForCausalLM.export() 的 dynamo ONNX 导出,06/2026 新增 Gemma4、Qwen3.6、Qwen3 VL、GLM-4.5 MoE 支持等。

来源:GitHub · 灵魂体仓库 · github.com