GitHub · 灵魂体仓库·· 12 天前精选AI 评分57
GMW:一个用 LLM 判决 Discord 消息的自托管审核工具开源
asepharyana/GMW
来源与原文
GitHub · 灵魂体仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/asepharyana/GMW
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
GitHub 上的 asepharyana/GMW 是一个自托管 Discord 服务器审核工具,捕获每条消息后用兼容 OpenAI 的 LLM 依据 policy.ts 中的书面策略判决,违规消息自动删除并在仪表盘展示,整个系统由一个 Node 进程、PostgreSQL 和 Redis 组成。设计上捕获永不等待模型(消息以 ai_status=pending 入队,worker 用租约认领)、执行动作由违规类别推导而非模型自报,且 error 判决永不触发删除;生产中曾有 51 条 offensive_nickname 判决被模型自报错误动作误删消息,该推导机制由此而来。
推荐理由
原文用架构图和设计不变量讲清了一个自托管 LLM 审核系统的可靠性与可审计做法,其队列与判定分离的思路可直接借鉴。
来源:GitHub · 灵魂体仓库 · github.com