跳到正文
Reddit · r/LocalLLaMA· /u/GapNew4766·· 4 天前精选AI 评分66

Flint 40B-A2.5B vs Ornith 1.5 35B-A3B vs Nemotron 3.5 Lightning 本地编码 agent 横评

Flint 40B-A2.5B vs Ornith 1.5 35B-A3B vs Nemotron 3.5 Lightning

来源与原文

Reddit · r/LocalLLaMA

作者:/u/GapNew4766

发布时间:(北京时间)

阅读原始来源 · reddit.com ↗
完整链接与内容说明

https://www.reddit.com/r/LocalLLaMA/comments/1xczcgk/flint_40ba25b_vs_ornith_15_35ba3b_vs_nemotron_35/

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

作者在相同的 Opus 5.5 规划、3 worker 并行设置下,用 llama.cpp Q8_0 在 RTX PRO 6000 Blackwell 96GB 上实测三个小型 MoE 编码同一个 Three.js 万圣节连锁反应场景。Flint 40B-A2.5B 综合最优:墙钟 7:36、修复 6 次、Opus 花费 $0.41;Nemotron 3.5 Lightning 解码最快但生成约 5 倍 token、修复 16 次、花费 $0.95,其编辑成功率仅约 17%。作者指出换 worker 模型使规划者账单从 $0.41 涨到 $0.95,裸 tok/s 并不决定总耗时,且三者在单轮内都没产出完全可用的场景。

推荐理由

同一任务同机实测三个小型 MoE 当编码 worker,给出 token 消耗与 Opus 花费对比,显示编辑成功率比裸速度更影响实际耗时。

来源:Reddit · r/LocalLLaMA · reddit.com