Reddit · r/LocalLLaMA· /u/The_VibePreneur·· 10 天前精选AI 评分67
BitRun v0.2.0-beta 支持纯 CPU 运行 1-bit LLM，新增分屏 TUI 与实时功耗遥测
BitRun now runs 1-bit LLMs on your CPU with a split-screen TUI and live wattage telemetry (70+ t/s on laptops, supports 8B ternary models)
来源与原文
Reddit · r/LocalLLaMA
作者：/u/The_VibePreneur
发布时间：（北京时间）
阅读原始来源 · reddit.com ↗完整链接与内容说明
https://www.reddit.com/r/LocalLLaMA/comments/1x7fj2c/bitrun_now_runs_1bit_llms_on_your_cpu_with_a/
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
BitRun 发布 v0.2.0-beta，新增 BitRun Cockpit 分屏界面，左侧流式输出 token，右侧实时显示 CPU 功耗、每 token 焦耳、P/E-core 负载与首 token 延迟。模型侧脱离 Microsoft 冻结子模块、基于新版 llama.cpp 重构，解决 GGUF Type 42 冲突，使 PrismML 的 8B 三值模型 bonsai-8b 可在约 2 GB 内存中纯 CPU 运行。
推荐理由
作者给出了多款 CPU 上的实测功耗与生成速度数据，1-bit 模型在纯 CPU 上的瓦数表现可直接对照自己的硬件参考。
来源：Reddit · r/LocalLLaMA · reddit.com