GitHub · 去对齐工具与仓库·· 8 天前AI 评分28
NVIDIA NeMo Guardrails：为 LLM 应用添加可编程护栏的开源工具包
NVIDIA-NeMo/Guardrails
来源与原文
GitHub · 去对齐工具与仓库
发布时间：（北京时间）
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/NVIDIA-NeMo/Guardrails
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
NVIDIA 开源的 NeMo Guardrails 工具包（最新版本 0.24.1）可让开发者在 LLM 应用中添加可编程护栏，控制对话主题、语言风格、对话路径并防范越狱与提示词注入。它支持输入、对话、检索、执行、输出五类护栏，兼容 GPT-3.5、GPT-4、LLaMa-2 等模型，可通过 Python API 或 guardrails server 使用，并支持 LangChain 集成。
来源：GitHub · 去对齐工具与仓库 · github.com