GitHub · 去对齐工具与仓库·· 4 天前AI 评分54
MECH 发布 GPT-2 small 机制可解释性工作台,实测激活修补与 IOI 电路
KUNDURUHIMANEESHREDDY/MECH
来源与原文
GitHub · 去对齐工具与仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/KUNDURUHIMANEESHREDDY/MECH
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
GitHub 上的 MECH 是一个机制可解释性工作台,加载真实 GPT-2 small(124M)权重,运行激活修补、层消融、激活引导和 IOI 电路发现等因果干预,并以 logit 差值报告结果。每个数值都带 live、seeded、reference 或 unavailable 的来源标签,验证与发布被限定在 provenance 为 live 的结果上;README 同时列出尚未实现的部分,如 tuned lens 仍为实验性、非 GPT-2 模型路径未实测,并给出 IOI 头消融、logit lens 负结果和 5 种子下 circuit faithfulness 0.7513 等实测数据。项目地址 https://github.com/KUNDURUHIMANEESHREDDY/MECH。
来源:GitHub · 去对齐工具与仓库 · github.com