biteiniu 开源 Aletheia：CPU 优先的 LLM 调度层，支持本地与 DeepSeek 云端自动路由

biteiniu 在 GitHub 发布 Aletheia，一个 CPU 优先的 LLM 调度层，让上层应用通过 Intent 接口解绑推理后端，可对接本地 Ollama、llama.cpp 与 DeepSeek 云端并按任务自动路由。项目附实测数据：RTX 3070 8GB 上模型从 7B Q4 涨到 32B Q4 时延迟涨约 40 倍；Windows 下 Python 走 localhost 而非 127.0.0.1 会因 IPv6 fallback 多等约 2000ms，修正后首 token 从 2100ms 降到 25ms；并发 8 时 vLLM 吞吐 11.60 req/s 而 Ollama 停在 3.58 req/s。