GitHub · 去对齐工具与仓库·· 16 天前AI 评分52
Resonance-Agent-Infrastructure:基于 llama.cpp 的 C 语言本地 LLM agent 运行时
Mojeda01/Resonance-Agent-Infrastructure
来源与原文
GitHub · 去对齐工具与仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/Mojeda01/Resonance-Agent-Infrastructure
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
Mojeda01 在 GitHub 发布 Resonance Agent Infrastructure,一个用 C 写在 llama.cpp 之上的本地 LLM 推理与 agent 运行时。它以常驻 daemon 方式扫描目录并按需加载 GGUF 模型,通过 Unix domain socket 和紧凑二进制协议通信;每个会话使用独立的 KV cache sequence 保留上下文,流式返回 token 及 TTFT 和 tokens-per-second 统计,并内置工具循环,可执行读写文件和带超时与输出上限的 shell 命令。构建需 CMake ≥ 3.16、C11 编译器和 llama.cpp,产出交互 agent 和 daemon 两个二进制。
来源:GitHub · 去对齐工具与仓库 · github.com