GMW 开源:用 LLM 判决 Discord 消息的自托管审核工具
热点事件历史事件
GMW 开源:用 LLM 判决 Discord 消息的自托管审核工具
1 篇报道1 个报道来源12 天前更新
先了解这件事
AI 综述
开发者 asepharyana 在 GitHub 开源了 GMW,一个自托管的 Discord 服务器审核工具:捕获每条消息后,用兼容 OpenAI 的 LLM 依据 policy.ts 中的书面策略判决,违规消息自动删除并在仪表盘展示。系统由一个 Node 进程、PostgreSQL 和 Redis 组成。 设计上,捕获消息永不等待模型:消息先以 ai_status=pending 入队,由 worker 用租约认领处理;删除等执行动作由违规类别推导得出而非模型自报,且判决为 error 的消息永不触发删除。仓库介绍称,生产中曾有 51 条 offensive_nickname 判决因模型自报错误动作而误删消息,这一推导机制由此而来。 自动删除默认置信度阈值为 AUTO_DELETE_MIN_CONFIDENCE(默认 0.5),且没有 dry-run 模式,也没有可关闭自动删除的开关。
AI 根据报道生成 · 3 天前更新
最新进展11月11日 00:55
GMW:一个用 LLM 判决 Discord 消息的自托管审核工具开源报道时间线
沿着报道,了解事件的不同侧面。
11月11日
- GitHub · 灵魂体仓库精选GMW:一个用 LLM 判决 Discord 消息的自托管审核工具开源
GitHub 上的 asepharyana/GMW 是一个自托管 Discord 服务器审核工具,捕获每条消息后用兼容 OpenAI 的 LLM 依据 policy.ts 中的书面策略判决,违规消息自动删除并在仪表盘展示,整个系统由一个 Node 进程、PostgreSQL 和 Redis 组成。设计上捕获永不等待模型(消息以 ai_status=pending 入队,worker 用租约认领)、执行动作由违规类别推导而非模型自报,且 error 判决永不触发删除;生产中曾有 51 条 offensive_nickname 判决被模型自报错误动作误删消息,该推导机制由此而来。