跳到正文
热点事件持续更新

cookiesheep 开源 UniVis 逐层数值指纹比对工具

1 篇报道1 个报道来源8 小时前更新

先了解这件事

AI 综述

开发者 cookiesheep 在 GitHub 开源 UniVis,用于定位跨硬件或软件栈的推理误差:对同一段输入,在模型每层出口记录 64 维数值指纹并逐层对照,给出 PASS / DIVERGE / UNKNOWN 三种判定。 演示中,数值栈正确的模型与第 17 层算子换错的 bf16 模型 top-1 一致率同为 96.2%,该工具仍能定位到分叉层,并测得该层 MLP 输出误差为基线的 3.3 倍。在沐曦曦云 C500 与 NVIDIA RTX 5090 对照中,Qwen2.5 0.5B/3B/7B 逐层全部 PASS。 工具支持 CPU 运行,可生成自包含 HTML 报告并接入 CI 回归检查。首次运行需下载 SmolLM2-135M(约 270 MB),模型缓存后在一台普通 Windows 电脑的 CPU 上约 40 秒跑完。PASS 仅表示在所记录的模型、提示词集和软件栈上逐层误差处于容差内,不外推到其他模型、序列长度或 shape。

AI 根据报道生成 · 7 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月31日
  1. GitHub · 去对齐工具与仓库精选
    cookiesheep 开源 UniVis:逐层数值指纹定位跨硬件推理误差

    cookiesheep 在 GitHub 开源 UniVis,通过在每层出口记录 64 维数值指纹来逐层对照不同硬件或软件栈的推理输出,给出 PASS / DIVERGE / UNKNOWN 三种判定。演示中数值栈正确与第 17 层算子换错的 bf16 模型 top-1 一致率同为 96.2%,但工具能定位到分叉层及其 MLP 输出误差为基线 3.3 倍;在沐曦曦云 C500 与 NVIDIA RTX 5090 对照中 Qwen2.5 0.5B/3B/7B 逐层全部 PASS,支持 CPU 运行、生成自包含 HTML 报告并可接入 CI 回归检查。

本事件热度走势

可比范围当前
8
可比范围峰值
1010月31日 20:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。