跳到正文
我的
Reddit · r/LocalLLaMA· /u/Mr_Finious·· 1 小时前精选AI 评分66

作者在 Nemotron 3.5 Lightning 权重中内置 Forth 解释器

After Qwenputer, I wondered if a smaller model could do it too. So I built a Forth interpreter into Nemotron 3.5 Lightning's weights

来源与原文

Reddit · r/LocalLLaMA

作者:/u/Mr_Finious

发布时间:(北京时间)

阅读原始来源 · reddit.com ↗
完整链接与内容说明

https://www.reddit.com/r/LocalLLaMA/comments/1xq6q62/after_qwenputer_i_wondered_if_a_smaller_model/

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

作者在 NVIDIA Nemotron 3.5 Lightning(30B、3B 激活参数)旁挂了一个 27 层、权重由 Python 脚本计算且不训练的 Forth 解释器网络,模型以普通文本写出 Forth 块,解释器在每个 forward pass 中逐词执行,无需工具调用也不中断生成。测试中 765,734 个机器 token 全部与 Python 参考实现一致;LoRA 微调后在 600 题留出测试上得分从 79.1% 升至 92.1%,但在长整数上因机器只支持 20 位而输给 Python。项目代码以 MIT 许可发布在 GitHub,包含 kernel builder、vLLM 插件、NeMo AutoModel LoRA 配方及 NVFP4、GGUF、MLX 构建。

推荐理由

作者把 Forth 解释器写进 Nemotron 3.5 Lightning 的权重旁路网络,并给出 765,734 个机器 token 与 Python 参考实现全部对齐的验证结果。

来源:Reddit · r/LocalLLaMA · reddit.com

这条消息,你怎么看?

把新闻带到 MickerBook,和社区伙伴聊聊;也可以去 AIHER 看看模型背后的角色与梗。