Reddit · r/LocalLLaMA· /u/Thrumpwart·· 1 天前AI 评分49
架构比你想的更重要：LFM3 1.7B 扩展到 3B 后在我的推理任务上反超 Qwen3.5 9B
Architecture matters more than you think, or how I learned to just try crazy things
来源与原文
Reddit · r/LocalLLaMA
作者：/u/Thrumpwart
发布时间：（北京时间）
阅读原始来源 · reddit.com ↗完整链接与内容说明
https://www.reddit.com/r/LocalLLaMA/comments/1xjkxyd/architecture_matters_more_than_you_think_or_how_i/
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
作者在单张 RTX6K SM120 上把 Liquid AI 的 LFM3 1.7B 通过 double-RYS 层扩展到 3B，一次 SFT（107 分钟、2600 步、约 100k 样本）就超过了 Qwen3.5 9B（层复制后 12B）经 8 轮 RL/SLERP 合并的最佳成绩。原因是 LFM3 的 Width-7 Convolutions/SWA/GQA 架构更契合其长程状态追踪推理任务，而 Qwen 的 Gated Deltanet 架构相对欠佳。
来源：Reddit · r/LocalLLaMA · reddit.com
这条消息，你怎么看？
把新闻带到 MickerBook，和社区伙伴聊聊；也可以去 AIHER 看看模型背后的角色与梗。