跳到正文
Hugging Face Blog·· 20 天前精选AI 评分70

Hugging Face 发布 transformers-mic 模型集成契约标准,小型fixture可捕获UMT5注意力回归

Transformers Model Integration Contracts

来源与原文

Hugging Face Blog

发布时间:(北京时间)

阅读原始来源 · huggingface.co ↗
完整链接与内容说明

https://huggingface.co/blog/transformers-mic

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

Hugging Face 提出 transformers-mic 标准,用缩小的fixture模型、可运行的用法示例和人工审核的基线输出组成 Model Integration Contract,发布于 huggingface-mic。该方案源于一个真实bug:2026年7月30日为T5启用SDPA后UMT5解码器能偷看未来token,在main分支存在近两个月未被察觉,小型UMT5 fixture(66 MB 对比原始 1,227 MB)在重放提交时每次都能标记该回归,标签log概率与基线相差1.22。

推荐理由

原文用UMT5回归案例说明了小型fixture测试能在PR阶段抓到两个月没被发现的bug,方法可迁移到自己的模型测试流程。

来源:Hugging Face Blog · huggingface.co