GitHub · 灵魂体仓库·· 6 天前AI 评分23
Qualcomm efficient-transformers:面向 Qualcomm Cloud AI 的 LLM 高效推理库更新动态
qualcomm/efficient-transformers
来源与原文
GitHub · 灵魂体仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/qualcomm/efficient-transformers
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
Qualcomm 开源的 efficient-transformers 库将预训练 LLM 重写为可在 Qualcomm Cloud AI(AI100、AI200 等)上高效推理的优化形式,提供图变换、低精度执行、ONNX 导出、Patcher 与示例应用等能力。最新动态包括 07/2026 新增 Kimi-K2.5 视觉语言模型支持和 QEFFAutoModelForCausalLM.export() 的 dynamo ONNX 导出,06/2026 新增 Gemma4、Qwen3.6、Qwen3 VL、GLM-4.5 MoE 支持等。
来源:GitHub · 灵魂体仓库 · github.com