GitHub · 灵魂体仓库·· 19 天前精选AI 评分62
Synapse：C# 本地大语言模型推理引擎在 GitHub 开源
managedcode/Synapse
来源与原文
GitHub · 灵魂体仓库
发布时间：（北京时间）
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/managedcode/Synapse
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
Synapse 是一个在 .NET 10 环境下用 C# 和 Rust 在本机运行大语言模型的开源推理引擎，不需要 Python、服务器或网络。它借鉴果蝇脑连接组的按需激活思路，只加载 token 所需的区域，冷区域留在磁盘按需读取。
推荐理由
项目用问答基准给出与 llama.cpp、MLX 的速度和内存逐项对比，读者可以据此判断这个 C# 推理引擎目前适用的场景。
来源：GitHub · 灵魂体仓库 · github.com