跳到正文
GitHub · 去对齐工具与仓库·· 16 天前AI 评分52

Resonance-Agent-Infrastructure:基于 llama.cpp 的 C 语言本地 LLM agent 运行时

Mojeda01/Resonance-Agent-Infrastructure

来源与原文

GitHub · 去对齐工具与仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/Mojeda01/Resonance-Agent-Infrastructure

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

Mojeda01 在 GitHub 发布 Resonance Agent Infrastructure,一个用 C 写在 llama.cpp 之上的本地 LLM 推理与 agent 运行时。它以常驻 daemon 方式扫描目录并按需加载 GGUF 模型,通过 Unix domain socket 和紧凑二进制协议通信;每个会话使用独立的 KV cache sequence 保留上下文,流式返回 token 及 TTFT 和 tokens-per-second 统计,并内置工具循环,可执行读写文件和带超时与输出上限的 shell 命令。构建需 CMake ≥ 3.16、C11 编译器和 llama.cpp,产出交互 agent 和 daemon 两个二进制。

来源:GitHub · 去对齐工具与仓库 · github.com