GitHub · 去对齐工具与仓库·· 17 天前精选AI 评分61
RedLens：面向本地大语言模型的自动化红队安全评估框架
Vedantp29/RedLens-LLM-Red-Teaming
来源与原文
GitHub · 去对齐工具与仓库
发布时间：（北京时间）
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/Vedantp29/RedLens-LLM-Red-Teaming
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
Vedant Patel 在 GitHub 开源了 RedLens，一个针对 Ollama 本地运行模型的自动化红队与安全评估框架，支持提示词变异、响应分类、OWASP LLM Top 10 映射和 PDF 报告生成。对 llama3:latest 的最终评估共 1320 次测试（1200 恶意 + 120 良性），ASR 为 28.5%，Block Rate 71.5%，Security Score 79.7/100，最高风险类别为 Jailbreak、Data Extraction 和 Misinformation，Direct 变异是最有效攻击手段（ASR 36.3%）。
推荐理由
给出了完整的攻击变异、指标计算和OWASP映射方法，并附llama3的实测数据，可作为本地LLM安全评估的可复用框架。
来源：GitHub · 去对齐工具与仓库 · github.com