Reddit · r/LocalLLaMA· /u/tom_tsai28·· 21 天前AI 评分50
纯 C 编写的 3MB 独立运行器跑 Gemma-2B,捕捉到 Layer 15 幻觉突变
Wrote a 3MB standalone C runner for Gemma-2B. Caught a Layer 15 hallucination drop.
来源与原文
Reddit · r/LocalLLaMA
作者:/u/tom_tsai28
发布时间:(北京时间)
阅读原始来源 · reddit.com ↗完整链接与内容说明
https://www.reddit.com/r/LocalLLaMA/comments/1wyrvlk/wrote_a_3mb_standalone_c_runner_for_gemma2b/
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
开发者用纯 C + AVX2 编写约 3.3MB 的单文件运行器,在裸机 x86-64 上运行 Gemma-2B,并在残差流上加正交探针观察各层行为。测试台湾法定 5% 增值税时,Layer 0-14 保持正确,Layer 15 真值由 +0.0163 变为 -0.0481,RAX 寄存器输出"15%"。原始 trace、6 页论文和二进制已开源发布。
来源:Reddit · r/LocalLLaMA · reddit.com