跳到正文
GitHub · 3D 生成新仓库·· 15 天前精选AI 评分62

Godot 4.4 本地 LLM 扩展 SaLMoN 开源,基于 llama.cpp 支持聊天、语义决策与嵌入

Hunter174/SaLMon

来源与原文

GitHub · 3D 生成新仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/Hunter174/SaLMon

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

Hunter174 发布面向 Godot 4.4 的 GDExtension SaLMoN,通过 llama.cpp 本地运行 GGUF 模型,提供聊天、SemIf 风格语义决策和嵌入向量三类能力,运行时无需 Python、云推理、API 密钥或网络。目前为开发预览版,需从源码构建;Windows 上 Godot 4.4.1 全新导入已通过实测,Godot 4.5+ 全新 headless 导入因上游回归暂不支持(issue #11)。异步加载与推理每节点最多 32 个未完成请求、8 个已加载模型;AVX2 测试机上 native 调优把 Qwen3-0.6B 语义演示从约 16 秒降到 2 秒以内。

推荐理由

原文给出了完整 API 契约、构建步骤与实测数字,开发者可据此评估在 Godot 4.4 本地跑 GGUF 模型的可行性。

来源:GitHub · 3D 生成新仓库 · github.com