跳到正文
10月13日周二
  1. GitHub · 灵魂体仓库41

    ilyhay 开源 AI-Quality-Evaluation-Pipeline:可复现的 LLM 与 ASR 自动化评测流水线

    GitHub 项目 AI-Quality-Evaluation-Pipeline 提供可嵌入 CI/CD 的 AI 质量评测流水线。LLM 评测用 Ollama + Qwen 2.5 3B,12 个用例 PASS 率 8.3%,发现间接提示词注入漏洞,LLM-as-a-Judge 比 keyword 检查更可靠;ASR 评测用 faster-whisper small(int8 量化),干净音频 WER 约 5.23%,噪声音频达 81.48%。

10月9日周五
  1. GitHub · 灵魂体仓库50

    开源项目 llm-eval-observatory 发布:用 GitHub Actions 夜间评测 LLM 自动化可信度

    Vineeth Kodakandla 在 GitHub 发布 llm-eval-observatory,一个持续运行的 LLM 评测仪表盘:定时 GitHub Action 在 Groq 免费层对 GPT-OSS 20B 和 120B 开源权重模型跑四轨道评测(KYC/AML 自动分诊、能力与漂移、提示注入与越狱鲁棒性、LLM-as-judge 偏差),结果 JSON 提交回仓库并由 Vercel 上的 Next.js 站点渲染。评测统计全部从零实现,含 5,000 次种子 bootstrap CI、漂移标记和 Fleiss' κ(目前 0.94 到 1.0);每模型每轮约 154 次请求、65K token、约 5 分钟。作者强调判分确定性、KYC 数据集仅 26 例且为合成,项目 MIT 许可。

10月8日周四
  1. Reddit · r/LocalLLaMA53

    DeepSeek V4.1 Flash 在小型实测中胜过 Haiku 5.5 的研究子智能体与标题任务

    /u/dergachoff 用 4 个真实 brief 和 52 条消息对比 Haiku 5.5 与 DeepSeek V4.1 Flash,后者经 OpenRouter 以至少 8-bit 精度运行。研究子智能体任务中,Haiku 低档更快且便宜约 4 倍,但同样两个 brief 反复失败,例如始终找不到含精确 HEX 和 Pantone 色值的品牌 guideline 页面,高档 60 次工具调用也没找到;DeepSeek 低档耗时 721 秒、$0.35。聊天标题任务 DeepSeek 胜 28 对 8,Haiku 常把标题写成回答第一句,还把一条 prompt injection 测试消息当成了标题。评判由 Opus 盲评 A/B 双序完成,每组只跑一次,作者说明这不是大型基准测试。

  2. GitHub · 灵魂体仓库51

    AP-Model-QC 评测用例仓库进入 Phase 3,已对四家模型产出 14 项发现

    apolskiy 发布 AP-Model-QC 仓库(MIT 许可),处于 Phase 3,包含 70 个分级用例:41 evaluator、21 security、8 tool,覆盖 gemini、openai、claude、grok 四个引擎。已记录 851 条候选响应、466 条评判和 14 项模型发现(openai 8、claude 5、grok 1、gemini 0),撤回的 15 项均为自身缺陷。每例观测 3 次、分歧时升至 5 次,11 项发现存在同题异答;录制回放让任何发现无需厂商账号即可复现,如 pytest --engine grok --mode replay --tests 134205。