跳到正文
GitHub · 3D 生成新仓库·· 17 天前AI 评分32

SeasonLLM:llama.cpp 的轻量 .NET 封装库发布

SeasonRealms/SeasonLLM

来源与原文

GitHub · 3D 生成新仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/SeasonRealms/SeasonLLM

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

SeasonRealms 开源了 SeasonLLM,一个围绕 llama.cpp 的 .NET 封装库,用于本地 GGUF 文本生成。它提供模型/上下文分离句柄、流式输出、GBNF 或 JsonSchema 约束生成、模型初始化时加载单个 LoRA 适配器,以及通过 mmproj 加载匹配投影文件的单图多模态问答,支持 gemma-4-E4B、Qwen3.5 等 GGUF 模型,示例使用 ContextSize 8192 并可选 cpu、cuda0、vulkan0 后端。

来源:GitHub · 3D 生成新仓库 · github.com