GitHub · 灵魂体仓库·· 21 天前AI 评分41
make-it-flash：针对 LLM-jp 4.1 32B-A3B thinking 的 GDN 置换单层 pilot 实验代码
SaibaWaipu/make-it-flash
来源与原文
GitHub · 灵魂体仓库
发布时间：（北京时间）
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/SaibaWaipu/make-it-flash
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
SaibaWaipu 的 make-it-flash 仓库是一个实验代码，将 LLM-jp 4.1 32B-A3B thinking（revision cda260706786758045e5e96bf4d738bbc01155b5）的 attention 替换为 Gated DeltaNet（GDN），当前仅做单层 pilot，输出单独 GDN block 和 fitting metrics，不生成可加载的 hybrid Causal LM。流程分 prepare、cache、fit 三段，cache 需至少 66 GiB 空闲 VRAM；标准运行方式为 Hugging Face Jobs，默认 a100-large、timeout 4 小时，约 $2.50/时，最多约 $10。
来源：GitHub · 灵魂体仓库 · github.com