跳到正文
GitHub · 灵魂体仓库·· 19 天前精选AI 评分65

duki-core/llm-output-guard 开源:面向本地 LLM 应用的轻量输出防护库

duki-core/llm-output-guard

来源与原文

GitHub · 灵魂体仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/duki-core/llm-output-guard

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

duki-core 在 GitHub 发布 llm-output-guard,一个厂商无关的轻量库,针对本地/自托管 LLM 应用的四类安全问题:系统提示词泄漏、文本标记与结构化 tool call 的未授权动作执行、以及经 RAG 内容的间接提示词注入。库内含 PromptLeakGuard 三层检测(字符串匹配、嵌入相似度、LLM judge)、ActionGate 用户确认门控、context_guard 输入清洗和 ToolCallGuard 结构化调用校验,作者从基于 LM Studio 的本地聊天伴侣项目中抽出,MIT 许可,并明确说明这是启发式纵深防御而非正式安全保证,流式与 async 支持尚未实现。

推荐理由

这个开源库把系统提示词泄漏、幻觉动作执行和间接注入拆成四类问题,并诚实列出了每层防御的失效条件,方法可直接迁移到本地 LLM 应用。

来源:GitHub · 灵魂体仓库 · github.com