跳到正文
GitHub · 灵魂体仓库·· 15 天前AI 评分39

Nexus-LLM:类 Claude 的终端开源 LLM 框架,集成训练、微调、RAG 与部署

brutal-45/Nexus-LLM

来源与原文

GitHub · 灵魂体仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/brutal-45/Nexus-LLM

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

GitHub 开源项目 Nexus-LLM 是一个生产级终端 LLM 框架,自带后端,无需云端 API,支持 GPT-2、GPT-Neo、LLaMA、Phi、Qwen 等 39+ 模型,提供类 Claude 的流式终端聊天界面。它统一了从加载、推理、LoRA/QLoRA 微调、RAG、Agent 到部署的全流程,内置 FAISS 向量检索、5 种 Agent 类型、FastAPI 的 REST 与 WebSocket API,以及 4-bit/8-bit 量化和 DDP/FSDP 分布式训练。

来源:GitHub · 灵魂体仓库 · github.com