epittman23/local-llm：基于 Open WebUI 硬分叉的个人 AI 助手项目

GitHub 上的 epittman23/local-llm 是一个个人 AI 助手项目，通过 OpenRouter 调用云端开源权重模型，并使用 Open WebUI 的永久硬分叉（固定在 v0.11.3、vendor 进仓库）作为聊天界面。项目将原 SvelteKit 前端替换为 Astro + React 前端，聊天与 RAG 数据存于 Postgres+pgvector，后端以 uvicorn 运行在 127.0.0.1:4000。它需 Linux（2026-10-09 起为原生 Fedora 44）、Docker、Bun、Node ≥ 22.12 和 uv，并内置 Benchmarks 页面用于本地推理的测试与调优。