GitHub · 灵魂体仓库·· 20 天前AI 评分75
Feynt:Apple Silicon 本地推理应用,投机解码达普通解码 2.7 倍速度
random1st/feynt
来源与原文
GitHub · 灵魂体仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/random1st/feynt
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
random1st 发布 Feynt,一款跑在 Apple Silicon 菜单栏的本地大模型推理应用,用 DFlash 2 起草模型一次提出整块 token、大模型单次验证的方式,在 M3 Max 上达到普通解码 2.7 倍速度(Qwen3.8-27B Uncensored 14.6 提升至 40 tok/s)。应用内置聊天、首启向导、OpenAI 兼容服务器及 MCP 和 A2A 端点,引擎通过 MLX Swift 运行,无需 Python 或预装依赖,安装命令为 brew install --cask random1st/feynt/feynt。
来源:GitHub · 灵魂体仓库 · github.com