跳到正文
Reddit · r/LocalLLaMA· /u/fuzhongkai·· 12 天前精选AI 评分62

TensorSharp 官方教程:用 Qwen3.8-27B 在 Apple Silicon 上本地运行 Pi Coding Agent

Run Pi Coding Agent Locally with TensorSharp + Qwen3.8-27B — Complete CLI & SDK Tutorial

来源与原文

Reddit · r/LocalLLaMA

作者:/u/fuzhongkai

发布时间:(北京时间)

阅读原始来源 · reddit.com ↗
完整链接与内容说明

https://www.reddit.com/r/LocalLLaMA/comments/1xt69ya/run_pi_coding_agent_locally_with_tensorsharp/

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

TensorSharp 仓库收录了完整的端到端教程,把 TensorSharp 作为 OpenAI 兼容推理后端在本地驱动 Pi Coding Agent 1.5.1,使用 Qwen3.8-27B-UD-IQ3_XXS 模型并启用 DFlash2 推测解码,无需修改 Pi 源码。教程覆盖 CLI 和 Node.js SDK 两条路径,在 M5 Pro MacBook Pro(48 GB)上验证,E2E 测试两条路径均通过 5/5 测试,CLI 耗时 88 秒、SDK 耗时 83.4 秒,SDK 运行约 87% 的 prompt token 来自前缀缓存;作者强调这只是功能集成测试而非标准化编码基准。

推荐理由

作者给出了可直接复现的本地部署路径,并附上实测耗时、token 数与缓存命中数据,读者可以照着自己跑通并对比。

来源:Reddit · r/LocalLLaMA · reddit.com