跳到正文
我的
GitHub · 灵魂体仓库·· 1 天前AI 评分29

wsp-lab 仓库:用小型状态空间模型仅凭权重变化预测 LLM benchmark 分数变化

ArioMoniri/wsp-lab

来源与原文

GitHub · 灵魂体仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/ArioMoniri/wsp-lab

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

GitHub 仓库 wsp-lab 测试能否不运行前向传播、仅凭权重变化预测 LLM 的 benchmark 分数变化。项目在 Qwen3.5-0.8B 至 Qwen3.8-27B 上,用 abliteration(含 Heretic)、LoRA 微调、task-vector 合并等构建约 590 条编辑 zoo,比较 Mamba-2 SSM、JEPA 权重编码器、Transformer、LightGBM 及 LLM 读 delta 等骨干。目前 P0 完成、P3 特征与基线进行中,论文拟投 TMLR。

来源:GitHub · 灵魂体仓库 · github.com

这条消息,你怎么看?

把新闻带到 MickerBook,和社区伙伴聊聊;也可以去 AIHER 看看模型背后的角色与梗。