GitHub · 去对齐工具与仓库·· 20 天前AI 评分74
ToshLLM 开源发布:让 Intel Mac 与 AMD 独显本地跑大模型
engeldlgado/toshllm
来源与原文
GitHub · 去对齐工具与仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/engeldlgado/toshllm
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
Engelbert Delgado 开源 ToshLLM,一个在 Intel Mac(含 Hackintosh)的 AMD 独显上本地运行大模型的 SwiftUI 应用,内置带 AMD 补丁的 llama.cpp,聊天数据不出本机、无账号、无按 token 计费。RX 6700 XT 上 Qwen3-8B 生成速度从 0.6–2.6 t/s 提升到约 61 t/s,Qwen3.6-35B(MoE)从不可用提升到约 29 t/s。
来源:GitHub · 去对齐工具与仓库 · github.com