跳到正文
GitHub · 去对齐工具与仓库·· 6 天前精选AI 评分71

apu-llm 开源:让无独显笔记本用共享内存跑 35B 本地模型并接入 Claude Code

yago-mendoza/apu-llm

来源与原文

GitHub · 去对齐工具与仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/yago-mendoza/apu-llm

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

yago-mendoza 发布 apu-llm 仓库,让 GPU 共享系统内存的 APU 笔记本一条命令完成本地大模型安装、问答与基准测试,并通过内置 MCP 服务器让 Claude Code 把批量文本工作交给本地模型。在 Ryzen AI 7 PRO 450、64GB LPDDR5X 参考机上,Qwen3.6 35B-A3B(MoE,3B 激活)经 Ollama 跑在 iGPU 上写入 11.7 tok/s、读长输入 93 tok/s,加载占 20.6GB;Qwen3.8 27B 稠密模型更聪明但写入仅 2.6 tok/s。

推荐理由

作者在一台 64GB 无独显的 ThinkPad 上实测了 APU 跑 35B 模型的真实速度与智能水平,并给出按内存选型的对照表。

来源:GitHub · 去对齐工具与仓库 · github.com