GitHub · 3D 生成新仓库·· 17 天前AI 评分32
SeasonLLM:llama.cpp 的轻量 .NET 封装库发布
SeasonRealms/SeasonLLM
来源与原文
GitHub · 3D 生成新仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/SeasonRealms/SeasonLLM
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
SeasonRealms 开源了 SeasonLLM,一个围绕 llama.cpp 的 .NET 封装库,用于本地 GGUF 文本生成。它提供模型/上下文分离句柄、流式输出、GBNF 或 JsonSchema 约束生成、模型初始化时加载单个 LoRA 适配器,以及通过 mmproj 加载匹配投影文件的单图多模态问答,支持 gemma-4-E4B、Qwen3.5 等 GGUF 模型,示例使用 ContextSize 8192 并可选 cpu、cuda0、vulkan0 后端。
来源:GitHub · 3D 生成新仓库 · github.com