跳到正文
GitHub · 去对齐工具与仓库·· 20 天前AI 评分74

ToshLLM 开源发布:让 Intel Mac 与 AMD 独显本地跑大模型

engeldlgado/toshllm

来源与原文

GitHub · 去对齐工具与仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/engeldlgado/toshllm

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

Engelbert Delgado 开源 ToshLLM,一个在 Intel Mac(含 Hackintosh)的 AMD 独显上本地运行大模型的 SwiftUI 应用,内置带 AMD 补丁的 llama.cpp,聊天数据不出本机、无账号、无按 token 计费。RX 6700 XT 上 Qwen3-8B 生成速度从 0.6–2.6 t/s 提升到约 61 t/s,Qwen3.6-35B(MoE)从不可用提升到约 29 t/s。

来源:GitHub · 去对齐工具与仓库 · github.com