fanyifan090409-dev/mobile-llm-engine:基于 Qwen3 的手机本地大模型推理引擎开源
GitHub 开源 mobile-llm-engine,一款 iOS 优先的本地大模型推理引擎,内置基于 Qwen3 继续训练的 0.6B 中文助手模型(Q5_K_M 量化、551MB),专注日历等工具调用任务,数据不出设备。实测 40 题工具调用中 tool_call 发射率和 schema 校验通过率均为 100%,但日期参数正确率 0/15,幻觉问题修复中。目前仅支持 Apple Silicon Mac,运行内存约 1GB,可开放试用。