Reddit · r/LocalLLaMA· /u/Grouchy-Zebra9780·· 14 天前AI 评分49
用两台旧 Android 手机集群本地运行 27B 大语言模型：C++ RPC 分层与 Hadamard 三值数学绕过内存限制
I clustered two old Android phones to run a 27B LLM locally. Bypassed RAM limits via C++ RPC split and Hadamard Ternary math (No overheating)
来源与原文
Reddit · r/LocalLLaMA
作者：/u/Grouchy-Zebra9780
发布时间：（北京时间）
阅读原始来源 · reddit.com ↗完整链接与内容说明
https://www.reddit.com/r/LocalLLaMA/comments/1x4mrty/i_clustered_two_old_android_phones_to_run_a_27b/
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
一名高中生用自研 C++ 引擎（llama.rn 的 fork）通过 USB RPC 把 Ternary-Bonsai-2-27B（2.06 bpw / 6.52 GiB，PPL 14.26）分层部署到两台 Android 手机上集群运行，集群模式速度约 2.8 tok/s，单机 Xiaomi 15 达 5.6 tok/s。权重以三值（-1, 0, 1）存储在 Hadamard 旋转基中，运行时在 ARM CPU 上应用 Hadamard 变换，只需加减运算、无 MAC 操作，最高温度约 30°C。
来源：Reddit · r/LocalLLaMA · reddit.com