跳到正文
GitHub · 灵魂体仓库·· 14 天前精选AI 评分73

Kestrel 开源:让 Intel Mac 加 AMD 显卡本地跑大语言模型

0xda7/kestrel

来源与原文

GitHub · 灵魂体仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/0xda7/kestrel

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

Northlatch Labs 开源 Kestrel,一个面向 Intel Mac 加 AMD 独显(含 Hackintosh)的本地大语言模型应用,内置 AMD 补丁版 llama.cpp 和 SwiftUI 界面。RX 6700 XT 上 Qwen3-8B 生成从 0.6-2.6 t/s 提升到约 61 t/s,支持多会话、Agent 工具与 MCP、OpenAI 兼容 API、图像生成(beta)和多 GPU 拆分;仓库地址 https://github.com/0xda7/kestrel,许可 GPL-3.0。

推荐理由

原文给出 RX 6700 XT 上各模型的实测算速和与 Apple Silicon 的对照数据,可以据此评估 Intel Mac 加 AMD 显卡跑本地大模型的可行性。

来源:GitHub · 灵魂体仓库 · github.com