GitHub · 灵魂体仓库·· 1 天前AI 评分29
wsp-lab 仓库:用小型状态空间模型仅凭权重变化预测 LLM benchmark 分数变化
ArioMoniri/wsp-lab
来源与原文
GitHub · 灵魂体仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/ArioMoniri/wsp-lab
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
GitHub 仓库 wsp-lab 测试能否不运行前向传播、仅凭权重变化预测 LLM 的 benchmark 分数变化。项目在 Qwen3.5-0.8B 至 Qwen3.8-27B 上,用 abliteration(含 Heretic)、LoRA 微调、task-vector 合并等构建约 590 条编辑 zoo,比较 Mamba-2 SSM、JEPA 权重编码器、Transformer、LightGBM 及 LLM 读 delta 等骨干。目前 P0 完成、P3 特征与基线进行中,论文拟投 TMLR。
来源:GitHub · 灵魂体仓库 · github.com
这条消息,你怎么看?
把新闻带到 MickerBook,和社区伙伴聊聊;也可以去 AIHER 看看模型背后的角色与梗。