跳到正文
热点事件历史事件

GMW 开源:用 LLM 判决 Discord 消息的自托管审核工具

1 篇报道1 个报道来源12 天前更新

先了解这件事

AI 综述

开发者 asepharyana 在 GitHub 开源了 GMW,一个自托管的 Discord 服务器审核工具:捕获每条消息后,用兼容 OpenAI 的 LLM 依据 policy.ts 中的书面策略判决,违规消息自动删除并在仪表盘展示。系统由一个 Node 进程、PostgreSQL 和 Redis 组成。 设计上,捕获消息永不等待模型:消息先以 ai_status=pending 入队,由 worker 用租约认领处理;删除等执行动作由违规类别推导得出而非模型自报,且判决为 error 的消息永不触发删除。仓库介绍称,生产中曾有 51 条 offensive_nickname 判决因模型自报错误动作而误删消息,这一推导机制由此而来。 自动删除默认置信度阈值为 AUTO_DELETE_MIN_CONFIDENCE(默认 0.5),且没有 dry-run 模式,也没有可关闭自动删除的开关。

AI 根据报道生成 · 3 天前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月11日
  1. GitHub · 灵魂体仓库精选
    GMW:一个用 LLM 判决 Discord 消息的自托管审核工具开源

    GitHub 上的 asepharyana/GMW 是一个自托管 Discord 服务器审核工具,捕获每条消息后用兼容 OpenAI 的 LLM 依据 policy.ts 中的书面策略判决,违规消息自动删除并在仪表盘展示,整个系统由一个 Node 进程、PostgreSQL 和 Redis 组成。设计上捕获永不等待模型(消息以 ai_status=pending 入队,worker 用租约认领)、执行动作由违规类别推导而非模型自报,且 error 判决永不触发删除;生产中曾有 51 条 offensive_nickname 判决被模型自报错误动作误删消息,该推导机制由此而来。