GitHub · 灵魂体仓库·· 15 天前AI 评分42
mgonzs13/llama_ros:在 ROS 2 中集成 llama.cpp 的开源软件包
mgonzs13/llama_ros
来源与原文
GitHub · 灵魂体仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/mgonzs13/llama_ros
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
GitHub 上的 llama_ros 仓库提供一组 ROS 2 软件包,将 llama.cpp 集成进 ROS 2,可运行基于 GGUF 的 LLM、VLM、音频语言、嵌入与重排序模型。它支持 OpenAI 兼容的 chat completions 接口(含 tool calling、推理与流式输出)、speculative decoding、GBNF 语法及实时修改 LoRA,覆盖 Humble 至 Lyrical 等 ROS 2 发行版,并提供 chatbot_ros、explainable_ros 等相关项目与 LangChain 集成演示。
来源:GitHub · 灵魂体仓库 · github.com