GitHub · 灵魂体仓库·· 19 天前精选AI 评分65
duki-core/llm-output-guard 开源:面向本地 LLM 应用的轻量输出防护库
duki-core/llm-output-guard
来源与原文
GitHub · 灵魂体仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/duki-core/llm-output-guard
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
duki-core 在 GitHub 发布 llm-output-guard,一个厂商无关的轻量库,针对本地/自托管 LLM 应用的四类安全问题:系统提示词泄漏、文本标记与结构化 tool call 的未授权动作执行、以及经 RAG 内容的间接提示词注入。库内含 PromptLeakGuard 三层检测(字符串匹配、嵌入相似度、LLM judge)、ActionGate 用户确认门控、context_guard 输入清洗和 ToolCallGuard 结构化调用校验,作者从基于 LM Studio 的本地聊天伴侣项目中抽出,MIT 许可,并明确说明这是启发式纵深防御而非正式安全保证,流式与 async 支持尚未实现。
推荐理由
这个开源库把系统提示词泄漏、幻觉动作执行和间接注入拆成四类问题,并诚实列出了每层防御的失效条件,方法可直接迁移到本地 LLM 应用。
来源:GitHub · 灵魂体仓库 · github.com