本地 AI 体验设计中的硬件调优：用 2B 模型做纪律追踪器

一位 r/LocalLLaMA 用户用 ternary bonsai 2 2B 模型构建本地纪律追踪器：摄像头拍照送本地模型评估活动合规并生成报告。GPU 默认功耗 100 瓦且风扇狂转，经 Adrenaline 面板限功耗、锁最低风扇转速后整机降至 25 瓦，推理速度从 1.9 秒降至 2.8 秒。作者质疑厂商未为持续本地推理提供功耗调度 API，并指出 llama.cpp 不支持 NPU。