作者分享本地AI harness Lamplight实测经验
先了解这件事
Reddit 用户 /u/CodeSamurai 分享了自建本地优先 AI harness Lamplight 的搭建经验与实测数据：他把 MacBook Pro M5 Max 与 RTX 5090 主机连成一套系统，约 95% 的 AI 使用已转到本地。两台机器都运行 Qwen 3.8 Flash-Next，Jade 采用 Basalt IQ3_S 量化、262K 上下文，平均解码 302 tok/s；Slate 采用 mlx-serve 4.7bpw MLX，平均解码 100 tok/s。作者给出的 HumanEval 成绩分别为 99.4% 和 98.8%，LiveCodeBench v6 为 85.7% 和 85.1%。 两台机器使用同一协议，temperature 0.6、thinking 设为 medium；作者称 thinking 设为 medium 比 high 更少触发 32K 输出上限。他还记录了硬件调优前后的功耗与温度对比。 作者表示 Lamplight 高度贴合自己的需求，暂不公开 harness 本身，正在解耦较特定的部分以便分享其中有参考价值的部分。上述性能数字均为作者自述的实测结果。
AI 根据报道生成 · 15 小时前更新
报道时间线
沿着报道，了解事件的不同侧面。
- Reddit · r/LocalLLaMALamplight：作者分享本地优先 AI harness 的搭建经验
/u/CodeSamurai 分享了自己搭建的本地 AI harness Lamplight，把 MacBook Pro M5 Max 与 RTX 5090 主机连成一套系统，约 95% 的 AI 使用已转到本地。两台机器都跑 Qwen 3.8 Flash-Next，Jade 用 Basalt IQ3_S 量化、262K 上下文，平均解码 302 tok/s，Slate 用 mlx-serve 4.7bpw MLX，平均解码 100 tok/s；HumanEval 分别为 99.4% 和 98.8%，LiveCodeBench v6 为 85.7% 和 85.1%。作者还记录了硬件调优前后的功耗与温度对比，以及 thinking 设为 medium 比 high 更少触发 32K 输出上限的经验。
本事件热度走势
- 可比范围当前
- 7
- 可比范围峰值
- 1011月7日 03:00
- 近 24 小时变化
- –
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。