跳到正文
  1. GitHub · 去对齐工具与仓库65

    genai_incidents 发布:收录 15,637 条生成式 AI 安全事件的机器可读索引

    emmanuelgjr 在 GitHub 发布 genai_incidents 数据集,汇总 AIID、OECD AIM、AIAAIC、MITRE ATLAS、NVD/GHSA/OSV 等来源,收录 15,637 条事件(1,915 条 landmark 级),统一映射到 OWASP LLM/ASI、NIST AI RMF、MITRE ATLAS 等分类学,可通过网站、Raw JSON、STIX/TAXII/MISP、PyPI、Hugging Face 获取。

    推荐理由:把多个不共享 schema 的 AI 安全事件源统一映射到安全分类学,并明确标注启发式标签的局限,便于检索与引用。

  1. GitHub · 去对齐工具与仓库66

    knowyourai 开源:一条命令核查本地模型文件是否与模型卡声明一致

    GitHub 用户 ppradyoth 发布开源工具 knowyourai,通过只读文件头和元数据核查本地或 Hugging Face 模型是否与声明一致,用 uvx knowyourai scan 即可扫描 Hugging Face 缓存、Ollama 和 LM Studio 中的模型,不运行模型、离线默认、无遥测。工具检查格式不符、pickle 权重、聊天模板按消息内容分支等规则,支持 ai.lock 锁定已批准版本并在 CI 中校验变更。作者实测 Hugging Face 下载量最高的 200 个 GGUF 仓库,其中 61 个(48%)的聊天模板与声明的 base 模型不同。项目处于 alpha 阶段,仓库地址为 https://github.com/ppradyoth/knowyourai。

    推荐理由:工具只读文件头不运行模型,还给出了对下载量前 200 的 GGUF 仓库的模板差异实测,方法可复用。

已经到底了