跳到正文
GitHub · 去对齐工具与仓库·· 1 天前精选AI 评分63

best-engine-ai-helper 开源:按硬件自动选型本地 LLM/VLM 并经质量门验证

warith-harchaoui/best-engine-ai-helper

来源与原文

GitHub · 去对齐工具与仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/warith-harchaoui/best-engine-ai-helper

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

Warith Harchaoui 发布 best-engine-ai-helper,一个纯 Python 工具,可检测本机内存(Apple Silicon 统一内存、NVIDIA/AMD VRAM 或系统内存),从内置模型目录中选出得分最高且装得下的本地 LLM 或 VLM,并通过 Ollama 拉取。选型综合结构化输出能力、内存适配、任务基准和带宽估算的吞吐四要素,pull 与 validate 会用 Ralph Loop 文本缺陷检测和 Ralph Eyeball Loop 视觉缺陷检测两道质量门验证模型,通过后才写入环境文件;实测吞吐数据存入 measurements.yaml,在 Apple M2 Max 上将 gemma3:12b 的估算误差从 64-118% 降到 17-25%。

推荐理由

原文给出了选型四要素与实测校准数据,读者可以据此理解本地模型自动选型工具的取舍逻辑。

来源:GitHub · 去对齐工具与仓库 · github.com