跳到正文
10月11日周日
  1. GitHub · 灵魂体仓库57

    asserthired-evals 开源:面试评分提示词的生产级评测套件参考实现

    GitHub 上的 asserthired-evals 仓库发布了一个面向面试评分 LLM 应用的生产级评测套件公开参考实现,包含 60 条合成黄金用例、5 个安全探针、12 个红队攻击用例和七项带 CI 阈值的指标。基线运行在 claude-sonnet-4-5 上,65 例中评分在区间内 98.5%、反馈忠实度 89.2% 低于 90% 目标、安全 64/65 未达标并保留一例边界失败作分析;套件现默认用 Claude Sonnet 5.5 评分、Haiku 4.5 做 LLM-as-judge,另提供漂移检测、数据集复核队列与判官校准脚本,完整付费运行约 195 次 Anthropic API 调用、成本约 $2 到 $3。

    推荐理由:这是一个可完整复用的 LLM 评测套件参考实现,七项指标、红队用例和漂移检测的做法可迁移到其他高信任提示词场景。

10月9日周五
  1. GitHub · 灵魂体仓库44

    llm-regression-engine:面向 LLM 系统的自动化回归测试与红队 CI/CD 平台

    GitHub 开源项目 prasoon-21/llm-regression-engine 是一个面向 LLM 系统的自动化回归测试、红队测试与 CI/CD 门控平台,集成 LangSmith、Promptfoo、FastAPI、LiteLLM 和 GitHub。它通过 HMAC-SHA256 验证 GitHub Webhook,从 LangSmith 采集 trace,生成提示词注入等对抗性测试用例,并执行 Schema 校验与 LLM-as-a-Judge 评估。平台追踪 P50/P95/P99 延迟与 token 消耗检测回归,将结果以 Commit Status 和 Markdown 报告写回 PR,支持 Docker 部署 5 容器拓扑。

10月8日周四
  1. GitHub · 灵魂体仓库35

    CrisisOps v2:训练 LLM 项目经理识别软件危机中的欺骗行为

    CrisisOps v2 是一个 OpenEnv 兼容的强化学习环境,用 GRPO 训练 Qwen2.5-1.5B(Unsloth LoRA r=16)担任 AI 项目经理,检测团队谎报进度。智能体需在 20 点行动预算内,将成员自报进度与 commit、ticket 响应等可观测信号交叉验证,并以反事实奖励对比贪婪基线。300 episodes 训练后平均分约 0.65+,超过基线的约 0.50;对抗方由 Ollama qwen2.5:3b 驱动。

10月7日周三
  1. GitHub · 去对齐工具与仓库56

    AI Eval Corp 开源本地大模型评测套件 llm-eval-suite

    AI Eval Corp 在 GitHub 发布 llm-eval-suite,一个本地 FastAPI 应用,供测试评估团队在自己控制的机器上对大语言模型做可重复的点选式测试与评估,运行于 http://127.0.0.1:8765。

    推荐理由:仓库附带了在 RTX 4070 SUPER 上对 GPT-2 Medium 微调版与 base 版的完整实测数据,读者可据此评估该套件的实际输出形态。