Reddit · r/LocalLLaMA· /u/Top-Evidence174·· 3 天前AI 评分41
Mica v0.5 决策模型实测：4B 比 395M 编码器快 2.2 倍，比同级 4B 模型快约 10 倍
A 4B model faster than a 395M encoder? 14 ms vs 31 ms (2.2x). Another 4B model: 150 ms (10x slower)
来源与原文
Reddit · r/LocalLLaMA
作者：/u/Top-Evidence174
发布时间：（北京时间）
阅读原始来源 · reddit.com ↗完整链接与内容说明
https://www.reddit.com/r/LocalLLaMA/comments/1xdkl55/a_4b_model_faster_than_a_395m_encoder_14_ms_vs_31/
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
Mica v0.5 是基于 Qwen3.5-4B + LoRA 的决策模型，单次前向传播输出各选项概率。在 RTX 6000 Ada 上对比，其单次决策中位耗时 11-18 ms，比同为 4B 的 PPLX Decider 1.2 Flash（约 133-157 ms）快约 10 倍，比 395M 参数的 Laya（约 31-33 ms）快约 2 倍；日志狩猎任务中 1.7 秒处理 150 个日志块、捕获 22 处入侵中的 21 处，准确率约 95%。
来源：Reddit · r/LocalLLaMA · reddit.com