跳到正文
GitHub · 去对齐工具与仓库·· 4 天前AI 评分41

SasanLabs 发布 LLMForge:OWASP VulnerableApp 的 AI/LLM 漏洞实验模块

SasanLabs/LLMForge

来源与原文

GitHub · 去对齐工具与仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/SasanLabs/LLMForge

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

SasanLabs 发布 LLMForge,OWASP VulnerableApp 生态中专门用于 AI/LLM 漏洞练习的 FastAPI 应用,通过 Ollama 连接真实本地模型而非模拟响应。项目提供 5 个渐进式实验:提示词注入 10 关、间接提示词注入 4 关、BOLA 医疗聊天机器人 3 关、RAG 上下文投毒 3 关和 RAG 敏感数据暴露 4 关,映射至 OWASP LLM01/LLM04:2025 等标准。默认聊天模型为 phi3:mini,嵌入模型为 nomic-embed-text,经 nginx facade 挂载在 /llmforge 路径,采用 Apache 2.0 许可。

来源:GitHub · 去对齐工具与仓库 · github.com