Reddit · r/LocalLLaMA· /u/Cultural_Self8980·· 21 天前精选AI 评分62
基于 Ternary-Bonsai-4B 搭建本地 System One 并用作 coding-agent judge
I built a lightweight, local Jev-like System One with Ternary-Bonsai-4B — and used it as a coding-agent judge
来源与原文
Reddit · r/LocalLLaMA
作者：/u/Cultural_Self8980
发布时间：（北京时间）
阅读原始来源 · reddit.com ↗完整链接与内容说明
https://www.reddit.com/r/LocalLLaMA/comments/1wyzu4k/i_built_a_lightweight_local_jevlike_system_one/
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
/u/Cultural_Self8980 在 Ternary-Bonsai-4B 上搭建了本地 Jev 式 System One，单次前向即可对一条记录回答多选、评分或是否问题，通过树状注意力掩码共享记录前缀，权重冻结无微调，Apple Silicon 上 MLX 后端使用约 1.1 GB 的 2-bit 打包权重。
推荐理由
作者用 80 个样本对比了 Bonsai 与 omp 内置 judge 与 Claude Opus 标签的一致率和延迟，并自己列出了标注来源等局限。
来源：Reddit · r/LocalLLaMA · reddit.com