跳到正文
GitHub · 3D 生成新仓库·· 12 天前AI 评分49

Amnibro 开源本地 AI 助手 Amni-Ai:4 GB VRAM 可跑、兼容 Ollama 与 OpenAI API

Amnibro/Amni-Ai

来源与原文

GitHub · 3D 生成新仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/Amnibro/Amni-Ai

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

Amnibro 在 GitHub 开源本地 AI 助手 Amni-Ai(Adam),采用 GF(17) 无损纹理压缩权重,4 GB VRAM 即可运行,完全离线、无需 API key。v6.12.0 的 block-spec 推测解码在重复查询上达 10–11× 单流加速、3B 模型批量吞吐约 52×,且逐 token 验证保持无损。它提供 Ollama 兼容 /api/* 与 OpenAI 兼容 /v1/* 端点及 MCP,支持闭环记忆纠错与沙箱验证的自我改进课程库,源码以 CC BY-NC 4.0 发布。

来源:GitHub · 3D 生成新仓库 · github.com