GitHub · 灵魂体仓库·· 3 天前AI 评分28
InferenceEngine.Core:基于 ONNX Runtime 的 .NET 跨平台 AI 推理库
intel-agency/inference-engine-lib
来源与原文
GitHub · 灵魂体仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/intel-agency/inference-engine-lib
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
开源 .NET 库 InferenceEngine.Core 通过统一的 IInferenceEngine 契约封装 ONNX 推理的模型下载缓存、硬件检测、warmup 和张量前后处理等通用流程。硬件加速支持 Windows 的 DirectML、macOS 的 CoreML 和 Linux x64 的 MIGraphX(ROCm),均带 CPU 自动回退,并支持 IAsyncEnumerable 流式解码与 KV-cache carry-back。示例项目内置完整 YOLO11 人脸检测管线,模型首次加载时自动下载缓存,MIGraphX 编译的 .mxr 程序可持久化以跳过约 1–2 分钟的重复编译。
来源:GitHub · 灵魂体仓库 · github.com