GitHub · 去对齐工具与仓库·· 7 小时前AI 评分33
TH4KUR/always-late：量化对多语言 SAE 特征影响的研究项目仓库
TH4KUR/always-late
来源与原文
GitHub · 去对齐工具与仓库
发布时间：（北京时间）
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/TH4KUR/always-late
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
一个 ANLP 研究项目，考察权重量化保留了多语言 SAE 特征的哪些性质。实验覆盖 FLORES-200 的 27 种语言、Gemma-2-2B 的三种量化器（原始 RTN、匹配 RTN、GPTQ）、六语言 Wikipedia 迁移面板及 Gemma-2-9B 原始 RTN 扩展，并有有限的 Llama-3.2-1B 一致性检验。主要发现是语言选择性组在指定编辑下对 next-token loss 有明确因果影响，而激活存活与语言标签只能部分预测干预效应是否保留；Gemma-2-9B 的 GPTQ 运行仍无结果。
来源：GitHub · 去对齐工具与仓库 · github.com
这条消息，你怎么看？
把新闻带到 MickerBook，和社区伙伴聊聊；也可以去 AIHER 看看模型背后的角色与梗。