跳到正文
10月7日周三
  1. GitHub · 灵魂体仓库69

    开源项目 Local Deep Research 提供本地可控的 AI 深度研究助手

    LearningCircuit 的开源项目 Local Deep Research 提供可本地运行的 AI 研究助手,支持任意 LLM、SearXNG 搜索和自建可搜索知识库,数据经 SQLCipher AES-256 加密。项目通过 Docker、Docker Compose 或 pip 部署,提供 LangGraph Agent 研究策略和 egress 出口范围控制;社区基准显示 Qwen3.6-27B 配本地模型和 Serper 搜索达到 SimpleQA 95.7%。项目声明无遥测,MIT 协议开源。

  2. GitHub · 去对齐工具与仓库45

    StudyLife AI:为自托管学习平台 StudyLife 添加 LLM 智能体的 Python 微服务

    开源项目 StudyLife AI 为自托管学习平台 StudyLife(Blazor WASM + ASP.NET Core,.NET 10)提供独立 Python 微服务,内置基于 Qdrant 与 RAG 的学习助手(带来源引用)、LangGraph 智能体(写操作需 POST /agent/confirm 确认)及 RAGAS 评测流水线。M1–M6 里程碑全部完成,包括多用户 HMAC 代理 token 认证、每 60 秒同步的调度器,以及将 reranker 从 gpt-4o-mini 换成 temperature=0 的 gpt-4o,并支持本地 Ollama 路径。

  3. GitHub · 灵魂体仓库59

    GitHub 开源 desert-fates:本地运行的沙漠史诗文字冒险引擎,可接 Ollama 叙事

    ahmedvictor507 在 GitHub 发布了 desert-fates,一个完全本地运行的选择式文字冒险引擎,无需账号、联网或 GPU,仅需 Python 3.10+。每个决策提供两个选项或自由输入,游戏会记录角色生死、信任等状态并约束 AI 输出以免破坏存档。可选接入 Ollama 本地模型(推荐 qwen3:4b,约 2.5 GB)生成散文叙事、角色对话和无限分支场景。故事以 JSON 文件编写,支持导入自有 EPUB 图书以匹配文风,项目 MIT 协议开源。

    推荐理由:这是一个可直接克隆运行的本地文字冒险引擎,README 连自定义故事的 JSON 格式和 Ollama 接入都写清楚了,想自己改故事的人可以直接上手。

  4. GitHub · 去对齐工具与仓库50

    Mootikins 发布 llama-swappo-halo 容器镜像:在 AMD Strix Halo 上运行 llama-swappo 代理

    Mootikins 在 GitHub 开源 llama-swappo-halo 容器镜像,用于在 AMD Strix Halo(gfx1151)上运行支持 Ollama API 的 llama-swappo LLM 代理,基于 kyuz0/amd-strix-halo-toolboxes 的 llama.cpp 预编译版本。镜像提供 ROCm/HIP 与 Vulkan 两种后端,其中 Vulkan 在 gfx1151 上稳定性更好,ROCm 性能更高且可选 whisper.cpp 语音转文字支持,镜像以 MIT 许可发布。

  5. GitHub · 灵魂体仓库37

    LLM 聊天界面教程:用 FastAPI 与 Ollama 从零构建聊天应用

    GitHub 上的 Rohan-mgn/LLM-chat-interface-tutorial 是一个 LLM 聊天包装教程,按 8 个阶段拆成多个独立 FastAPI 应用,涵盖会话历史、system prompt、流式输出、Markdown 渲染、SQLite 持久化、聊天搜索与语法高亮等 16 课。教程使用 llama3.2:3b 模型,前端采用 Marked 与 DOMPurify 做 Markdown 转换和净化,全部 8 个阶段标记为完成。

  6. GitHub · 去对齐工具与仓库28

    code-diff-visualizer:基于 Ollama 本地 LLM 的代码差异可视化工具

    GitHub 上的 code-diff-visualizer 是一个全栈工具,可对比两段代码并生成逐行着色 diff,并通过本地 Ollama 运行 qwen2.5-coder:1.5b 模型生成英文变更说明,无需外部 API 或密钥。项目用 Docker Compose 编排前端(React + Vite)、后端(Express + SQLite)和 Ollama 三个容器,并通过 Jenkins 实现推送触发的 CI/CD 流水线,作为 DevOps 课程作业展示完整流程。

  7. GitHub · 灵魂体仓库75

    开源工具 ai-doc-editor:用 LLM 编辑 Word 和 PDF 且不破坏排版

    AlexBormotov 在 GitHub 发布开源工具 ai-doc-editor,让 LLM 按 指令或预设编辑 .docx/.doc/.pdf,只改文字、保留表格样式页眉图片等版式,Word 输出带 tracked changes,并自动做结构校验。工具把文档解析为带稳定 ID 的分段,模型只返回 {id, new_text} 形式的编辑;支持 Ollama、LM Studio 本地离线运行(如 qwen3.5:9b)及 OpenAI、Anthropic、Google API 和 claude/codex/agy 订阅 CLI。实测 8 项任务中 cli:claude haiku 8/8 通过,qwen3.5:9b 7/8 且推荐为本地默认,失败均为内容过度编辑而非格式问题。

    推荐理由:原文给出了分段定位、写回与结构校验的完整做法和实测结果,读者可以照此思路让大模型改文档而不破坏排版。

  8. GitHub · 去对齐工具与仓库45

    deepwhale-labs 开源 event-driven-llm:基于 Kafka 的异步 LLM 执行控制台

    deepwhale-labs 在 GitHub 发布 event-driven-llm,一个用 Kafka 分发任务、PostgreSQL 保存执行记录的异步 LLM 运行控制台。技术栈为 Java 21、Spring Boot 3.5、Kafka 4.3、PostgreSQL 16 与 Coral Protocol 1.4.0,支持单条或最多 50 条批量提交、每条请求最长 32,000 字符、失败重试和 Kafka 分区分配可视化,模型可选 DEMO、Ollama(默认 llama3.2:1b)或 Windows Codex CLI。项目通过 Docker Compose 本地运行,未实现文件上传、任务取消和用户账户。

  9. GitHub · 去对齐工具与仓库43

    NexusAgent:零配置自进化的本地 AI 智能体框架

    开源框架 NexusAgent 定位为零配置、隐私优先的本地 AI 智能体框架,默认通过 Ollama 本地运行,也可经 LiteLLM 接入 OpenAI、Anthropic 等云端模型。它内置基于 NetworkX 的 GraphRAG 记忆、运行时自动生成技能、插件热重载、沙箱执行与多智能体编排,支持 pip、Docker 安装,需 Python 3.10+。

  10. GitHub · 去对齐工具与仓库42

    KubeLantern:基于命名空间隔离的 Kubernetes AI SRE 工具

    KubeLantern 是一个面向 Kubernetes 多租户集群的命名空间隔离 AI SRE 工具,每个命名空间运行一个只读监控 Agent,将故障 Pod 转为事件并给出诊断。诊断由集群内 Ollama 本地模型(如 qwen2.5:1.5b)经 LangGraph 流水线完成,结合 Qdrant 检索共享与团队 runbook(内置 43 个共享 runbook),Agent 仅写入自身事件记录,数据默认不出集群。

  11. GitHub · 灵魂体仓库59

    PairAdmin 发布:内置 AI 助手且无执行权限的终端模拟器

    o3willard-AI 在 GitHub 发布 PairAdmin,一个集成本地 shell、SSH 与远程 Windows(WinRM)的标签页终端,AI 助手可读取当前终端内容但无任何执行接口,命令建议仅以 Save/Copy/Execute 三按钮的文本呈现。发送给模型前先做进程内凭据脱敏,覆盖 AWS、GitHub、OpenAI 等 15 类内置模式并支持自定义 regex,API 密钥经 memguard 加密存储于 OS keychain,支持 OpenAI、Anthropic、Ollama、LM Studio、OpenRouter 可切换,全部提示与响应写入本地 JSONL 审计日志。

    推荐理由:这款终端把 AI 建议限定为文本加三个按钮,凭据先脱敏再传输,安全设计的取舍写得具体可查。

  12. GitHub · 灵魂体仓库50

    EasyPaper:用 AI 翻译、阅读、批注 PDF 的开源工作区

    EasyPaper 是一个基于网页和桌面的 AI PDF 工作区,支持翻译、阅读、批注和 AI 对话,可用本地 Ollama、Gemini、Claude、OpenAI 或 Antigravity、Claude Code、Codex 等 CLI 提供商。它提供研究模式和通用文档模式两种阅读模式,具备句级对齐翻译、预读简报、文献图表悬浮引用、阅读分析等功能。应用基于 Tauri 提供 Windows、macOS、Linux 桌面版,也可 Docker 自托管,源码运行需 Python 3.8+ 和 Node.js 16+。

  13. GitHub · 去对齐工具与仓库44

    GitHub 开源 local-llm-snake:让本地大语言模型实时玩贪吃蛇的浏览器测试场

    GitHub 开源 local-llm-snake,一个让本地大语言模型实时玩贪吃蛇并测量其决策能力的浏览器测试场。测试发现 4B 决策模型 tev1 表现最佳,约 310 ms 一步可实时玩 Normal 速度且全部存活,而 gemma4:31b、qwen3.8:27b 等大聊天模型读得懂事实但 1.1–1.3 s 一步太慢;项目以 JEV 为基准,需 Node 22.18+ 与 Ollama 0.35+。

  14. GitHub · 去对齐工具与仓库28

    LLMs-Agent-ContextWindow-Management:用 LangChain 与 LangGraph 管理 AI 智能体的上下文窗口

    一个开源示例项目演示如何通过消息总结、修剪和删除三种方式管理 AI 智能体的对话历史。项目基于 LangChain 中间件和 LangGraph 短期记忆,用 Python 实现,示例配置为 4 条消息触发总结、300-token keep 设置,并使用 InMemorySaver 按线程 ID 存储历史。模型接入支持 Ollama、Groq 和 OpenAI,工具演示使用 OpenWeatherMap、Tavily 和 DuckDuckGo。

  15. Reddit · r/LocalLLaMA18

    在 Apple Silicon Mac 上用 SQLite + Ollama 搭建全本地个人笔记 RAG:嵌入模型与混合检索选型讨论

    一位用户在 r/LocalLLaMA 征求全本地个人笔记 RAG 的选型建议:技术栈为 SQLite + sqlite-vec + FTS5,用 Ollama 在 Apple Silicon Mac 上做嵌入与生成,语料为约 512 token 分块的 Markdown 笔记与 JSON 记录。嵌入模型在 nomic-embed-text、qwen3-embedding:0.6b 与 embeddinggemma 之间犹豫,并询问 FTS5 BM25 与向量余弦混合融合的拼写容错与融合陷阱。

  16. GitHub · 去对齐工具与仓库40

    XSHELF:面向 LLM 仓库操作的确定性运行时工具发布

    fugamante 发布 XSHELF,一套为 LLM 辅助仓库操作设计的确定性运行时工具,将命令输出封装为有界、可检查的证据和稳定 JSON 契约,适用于 CI 与可重复任务执行。它提供命令捕获、上下文缩减、执行策略强制、结构化响应校验与失败重放,支持 Ollama、llama.cpp、MLX 等后端。CX 作为兼容命令面保留,项目为独立开源,与 OpenAI 无关联。

  17. GitHub · 灵魂体仓库70

    llm-world 项目 Grove 发布:用本地 Ollama 模型驱动一片会演化的森林生态

    开发者 yakovkhalinsky 在 GitHub 发布 Grove,一个纯 Python 标准库编写的本地森林生态模拟,语言模型作为 World Soul 约每分钟决定风暴、干旱等事件,并撰写编年史和为新生儿命名。默认模型为 glm-5.3-flash:cloud,经自有 Ollama 调用且无需 API key,--tier local 可完全离线固定到 llama3.2:3b(CPU 上约 1.9 tok/s)。世界状态存于单个 SQLite 文件,LLM 只做 schema 校验的有界任务、从不写世界状态,grove web 提供离线等距仪表盘,tools/balance.py 要求 8 个种子世界各 19 年内所有物种存活才能合入。

    推荐理由:作者把 LLM 限定为只做有界决策、引擎持全部状态,这种确定性模拟与模型分工设计可借鉴到其他本地 AI 项目。

  18. GitHub · 灵魂体仓库34

    开源 CLI 工具 Aegis Stack:一键脚手架生成生产级 FastAPI 应用

    开源 CLI 工具 Aegis Stack 可脚手架生成生产级 FastAPI 应用,支持通过 aegis add/remove 命令在现有项目中增删组件和服务而无需重写。其内置 auth、payments、worker、scheduler、AI(基于 PydanticAI / LangChain 的 RAG 与对话智能体)等组件,并自带 Overseer 控制面板、GitHub Actions CI/CD 和基于 SSH + Docker 的一键部署。CLI 支持 9 种语言,包括简体中文(uvx aegis-stack --lang zh)。

  19. GitHub · 灵魂体仓库54

    llm-triage-eval 仓库用 qwen2.5:7b 构建本地 LLM 分诊评测体系

    该仓库以游戏线上服务 bug 报告为案例,用 Ollama 运行 qwen2.5:7b 做工单一级分诊,并以现职 QA 实务为基础设计评测体系持续验证其判断。v1.4 构成包含格式重请求、废弃确认、Critical 检查清单等由代码强制执行的步骤;在从未运行过的 25 件最终评测集上两次测量,幻觉、缺陷废弃、人工确认遗漏、格式违规均为 0 件,格式 STRICT 100%,Critical 漏判 2/10,平均响应 2.29 秒。仓库还提供回归门禁、幻觉自动检测、pytest 与 GitHub Actions CI,并记录了 v1.0 起 llama3.1:8b 因编造缺陷和设备信息落选的对比过程。

  20. GitHub · 去对齐工具与仓库53

    开源本地研究助手 Arelis v0.3.0 发布,基于 Ollama 完全离线运行

    开发者 sAnct1x 在 GitHub 发布 Windows 本地个人研究助手 Arelis v0.3.0,完全在本地运行,无账号、无云端 API,通过 Ollama 调用本地模型(推荐 qwen3.5:9b)。支持网页搜索、独立浏览器控制、语音对话、文档处理、定时任务和命名房间管理长项目;邮件、短信、日历等敏感功能默认关闭,所有写文件和发消息操作需用户批准。安装包约 245 MB,AGPL-3.0 或更高版本开源,修复了 0.2.4 至 0.2.9 版本无法打开的问题。

  21. GitHub · 灵魂体仓库30

    tech-migration-ai:基于本地 Ollama 的 AI 技术迁移学习伴侣 Phase 1 发布

    GitHub 开源项目 tech-migration-ai 发布 Phase 1,提供流式聊天界面,技术栈为 Next.js + TypeScript 前端、Python + FastAPI 后端和本地免费 Ollama LLM,并支持 Docker Compose 一键启动。项目通过 OLLAMA_MODEL 配置模型,默认可拉取 qwen2.5-coder:14b,16 GB 内存也可运行 7B 模型,验收测试为让模型面向 C# 开发者讲解 Java streams。后续阶段将加入技术概念对比、代码转换、个性化学习、RAG 文档检索及需人工审批的自动迁移。

  22. GitHub · 灵魂体仓库62

    RigMatch 发布:在本地硬件上以游戏方式为 Ollama 模型打分选型

    DaveEuson 发布 RigMatch,一款本地工具,通过 Ollama 在用户真实硬件上基准测试本地模型,按速度、答案质量和硬件契合度给出 0-100 Match Score 和等级,并选出 Top Match。应用提供面向新手的五步引导向导和含自定义测试套件、日志的 Advanced Mode,支持 Windows、macOS、Linux 和 Jetson,全程本地运行、无账号无遥测。许可为 source-available 而非开源,允许使用但不授权复制、修改或再分发;0.4.2 及之前的 macOS 版本未签名,首启可能需手动清除隔离并本地重签。

    推荐理由:把选本地模型包装成相亲游戏,按你自己的硬件实测速度、质量和匹配度并给出 0-100 分,比看通用榜单更贴合实际。

  23. GitHub · 灵魂体仓库27

    CountGPT:本地学习 NIST 控制项与合规实践的 RAG 应用

    开发者 Xboyko 发布本地应用 CountGPT,基于 NIST SP 800-53 Rev. 5 目录做检索增强生成(RAG),帮助学习网络安全合规与 ISSO 工作。应用提供 Chat、Guide 和 Workbench 三个页面,可检索控制项、解释术语并练习撰写 POA&M 和 SSP 条目,底层使用 Ollama 运行的 Llama 3.1 8B,另有可选的 300 条示例训练 LoRA 适配器的微调流程。聊天记录保存在浏览器本地,结果可导出为 Markdown 或 CSV,作者强调其输出仍需人工审核。

  24. GitHub · 灵魂体仓库55

    liliang-cn 发布 Go 语言 Agent 循环库 agent-go v3

    liliang-cn 在 GitHub 发布 agent-go v3,一个用于运行 Agent 循环的 Go 库,涵盖 tools、memory、MCP、skills、sessions、checkpoints 与 long runs,无 CLI 和 UI,需将 pkg/agent 嵌入自有程序,要求 Go 1.25+。支持 svc.Ask、Chat、Stream、Run、RunSegments、Steer 等 API,兼容任意 OpenAI 兼容端点(OpenAI、DeepSeek、Ollama、vLLM、DashScope/Qwen 等)并提供 provider 池负载均衡,内存存储可选 file、mem0、qdrant、weaviate 等多种后端,License 为 MIT。

    推荐理由:README 覆盖了工具、记忆、MCP、长任务和 provider 池等完整能力清单,Go 开发者可据此评估是否嵌入自己的 Agent 程序。

  25. GitHub · 去对齐工具与仓库43

    muksyed1/switchyard-llm-routing-aws:基于 NVIDIA Switchyard 的 LLM 多模型路由 PoC

    一个以纯代码构建的 LLM 请求路由 PoC:NVIDIA Switchyard 在 AWS EC2 上为 Ollama 部署的三个开源模型(NVIDIA Nemotron、Llama 3.2、Qwen3)提供 OpenAI 兼容端点,支持 auto 路由与 passthrough 路由。全栈用 Terraform 和 Ansible 配置,Prometheus 每 15 秒抓取指标并由 Grafana 可视化。实测显示 CPU 推理慢(256 token 约 70 秒,约 3-4 tokens/s),简单请求被路由到 llama3.2:3b。

  26. GitHub · 灵魂体仓库57

    private-ai-platform-kit v0.29.0 发布:Kubernetes 上的自托管 LLM 网关与编码 Agent 治理平台

    RamazanKara 在 GitHub 发布 private-ai-platform-kit v0.29.0,为 Kubernetes 提供自托管 LLM 网关、RAG 和编码 Agent 工作区,兼容 OpenAI 与 Anthropic API,模型可跑在 Ollama 或 vLLM 上。每次模型调用和 Agent 动作都会生成 SHA-256 哈希链审计凭据,可离线验证篡改;Agent 沙箱默认拒绝出网,提示词中的密钥在到达模型前即被拦截。配套论文的基准显示完整治理路径中位数仅增加约 0.3 ms,可用 Docker Compose 在五分钟内试用,Apache-2.0 许可。

    推荐理由:原文给出治理路径的开销实测约 0.3 ms 中位数,以及五分钟 Docker 验证流程,便于平台团队自行评估这套自托管方案是否适用。

  27. GitHub · 去对齐工具与仓库51

    chrisjohnson 开源 Strix Halo + R9700 eGPU 本地 LLM 构建目录与基准工具链

    chrisjohnson 发布 strix-halo-r9700-llm-builds 仓库,收录 AMD Ryzen AI Max+ 395(Strix Halo,gfx1151)加 r9700 eGPU 扩展坞上跨双 GPU 并行运行 LLM 的模型引擎构建目录、modelctl 管理工具和 llm-inference-bench 基准编排器,支持 vLLM、llama.cpp 和 Ollama,用于编码助手场景及跨引擎/跨模型对比。目前含 67+ 个经核验的模型+引擎组合,每个构建是独立 Docker Compose 项目;CI 每次推送自动生成交互式对比面板(tokens/s 横向条形图,可按引擎、上下文长度、并发等过滤)发布到 GitHub Pages。

  28. GitHub · 去对齐工具与仓库67

    nmesh 发布:本地 LLM 硬件自动检测与运行管理工具

    GitHub 用户 shizukutanaka 发布 nmesh,一个本地 LLM 的硬件自动检测、模型选择、内存估算与运行管理工具,通过 3 条命令安装后提供 OpenAI 兼容 API(http://127.0.0.1:18000/v1)。工具按 VRAM 将硬件分为 T0_CPU 到 T5_SERVER 六档,支持 Ollama、llama.cpp、vLLM、MLX-LM 后端,无 llama.cpp 时可自动获取托管引擎和模型。

    推荐理由:作者用实测数据支撑工具的每个判断,包括 KV cache 精度、量化阶梯和 prompt cache 污染的对照测量,方法本身可迁移。

  29. GitHub · 去对齐工具与仓库46

    AgentMIII:本地优先的开源终端自主编程 Agent

    开源工具 AgentMIII 将 Claude Code 式的终端编程体验与 Ollama 本地模型结合,可完全离线运行,代码不出本机、无订阅费用。它默认使用 Ollama(支持 Llama 3、CodeLlama、Mistral、Mixtral),也可切换到 OpenAI API(GPT-4o、GPT-4-turbo)或 Claude API(Claude 3 Opus、Sonnet、Haiku),支持自主执行多步任务、diff 审批流程和流式终端 UI,兼容 Linux、macOS、Windows(WSL2)和 Raspberry Pi OS。

  30. GitHub · 去对齐工具与仓库48

    Banca:由大语言模型驱动、基于 MCP 的多游戏社交赌场项目

    GitHub 上的开源项目 Banca 是一个用虚拟筹码游玩的多游戏社交赌场,包含德州扑克、21 点和欧式轮盘三款游戏,AI 对手/教练通过 MCP 调用工具决策,推理过程可实时查看。筹码免费、不可购买或兑现,支持最多 5 人同桌、Google 登录和每周联赛。技术栈为 Kotlin + Ktor、PostgreSQL、React,模型可用 Ollama 本地运行或 Groq 免费额度,项目已在 banca-xico.vercel.app 可端到端试玩。

  31. GitHub · 灵魂体仓库38

    Gangoy Vídeos:本地将巴西葡萄牙语故事转为动画视频并发布到 YouTube 的开源系统

    开源项目 Gangoy Vídeos 可在 Windows 或 Linux 本地把故事转成巴西葡萄牙语卡通视频,用 Ollama 生成故事规划、分章脚本并核查连续性,默认模型为 gemma4:12b-it-qat 与 gemma4:e4b-it-qat。系统仅需 Node.js 22.13+,服务器只接受 127.0.0.1 本地连接,联网仅在绑定 YouTube 频道时使用;旁白、图像、剪辑和发布属于后续子项目。项目采用 AGPL-3.0-or-later 许可证,在 12 GB 的 RTX 4070 Ti 上开发。

  32. GitHub · 灵魂体仓库69

    zacharysehansen/morning-report:全本地 LLM 流水线生成图森每日活动邮件摘要

    作者开源 morning-report 项目,用 n8n 唤醒 GPU 主机,本地 LLM agent 抓取 Eventbrite、Meetup、Loft Cinema 等图森活动来源,经二次策划并由 FLUX.1-dev 生成横幅,最终以 HTML 邮件投递,全程无云端 API。项目通过自定义 digest agent 解决了 opencode 默认编码人格的拒绝问题,并详述了 opencode SQLite 锁、orphan 进程、服务账号 PATH 及模型编造数据等故障模式与规避方法。

    推荐理由:作者完整公开了用本地模型跑通日报邮件流水线的工程细节,含 refusal 处理和进程退出等实战坑点。

  33. GitHub · 去对齐工具与仓库58

    MemoryMap-AI 0.4.1 发布:本地 AI 笔记应用开源

    Braydenh563 在 GitHub 发布 MemoryMap-AI 0.4.1(beta),一个本地优先的笔记应用:输入想法后由本地 AI 自动分类、打标签并建立链接,提问时返回逐句引用笔记来源的答案。AI 通过 Ollama 或任意 OpenAI 兼容本地服务器运行,数据存于单个 SQLite 文件,无账号、无云端、无遥测;无模型时仍可按笔记自身词汇归档和搜索。功能包括 Agent 模式(65 个工具、21 个内置技能)、文档编辑器、白板、思维导图、图谱、时间线、OCR 与扫描 PDF 读取、从 Notion/Obsidian/Evernote/Apple Notes 导入,支持 Windows 安装包、Linux tarball 及源码运行,采用 AGPL v3.0 许可证。

    推荐理由:本地优先的笔记应用,AI 归档、问答引用和隐私设计都写清了实现方式,想搭本地知识库的读者可以对照其架构取舍。

  34. GitHub · 去对齐工具与仓库35

    Storico:基于 LLM 的用户故事自动拆解看板任务工具(GitHub 开源项目)

    UTM(Oaxaca)的毕业论文项目 Storico 用 LLM 将自然语言用户故事自动拆解为结构化看板任务,后端采用 FastAPI 六边形架构,前端为 Astro + React islands,通过 Docker Compose 编排 API、Ollama、Postgres、Qdrant 4 个服务,支持 Ollama、OpenAI、Anthropic、Gemini 等端点。项目处于 MVP 阶段,核心提取管线已可用,默认嵌入模型为 nomic-embed-text(768 维),基于 6 位 Scrum Masters/POs 的专家评审与 TCR/TAS/IFI 指标的正式评估尚未开展。

  35. GitHub · 去对齐工具与仓库53

    sirdadfar 开源自托管 LLM 网关 llm-gateway

    sirdadfar 在 GitHub 发布自托管、OpenAI 兼容的 LLM 网关 llm-gateway,基于 NestJS 和 TypeScript,用统一 API 接入 OpenAI、Anthropic Claude 和本地 Ollama。支持模型路由与别名、可配置超时重试与可选 fallback、SSE 流式及客户端断开取消、lgw_ 前缀 API 密钥(仅存 SHA-256 哈希)、按密钥模型白名单、Redis 滑动窗口限流与月度配额、Redis 响应缓存及 PostgreSQL 用量审计持久化,提供 Docker Compose 部署、Swagger 文档与 GitHub Actions CI,采用 MIT 许可。

  36. GitHub · 去对齐工具与仓库63

    scaffold-engine 开源:自托管 DAG 编排引擎跑多步 LLM 工作流

    LocketKeyLLC 在 GitHub 发布 scaffold-engine v1.6.1,一个自托管的 DAG 编排引擎,输入一个想法即可研究主题、生成执行图、逐节点执行并验证后输出编译结果。全栈本地运行,用 Ollama 推理、Milvus 向量检索、Postgres 存状态、SearXNG 搜索,README 提供从零安装的完整 walkthrough,CPU-only 典型任务需 30–60 分钟。支持多用户密钥管理、备份恢复和 OpenAI 兼容 API;服务端采用 BUSL 1.1 许可,SDK 和 CLI 为 Apache-2.0。

  37. GitHub · 灵魂体仓库41

    lyzetam/fako-cluster:家庭版生产级 Kubernetes Homelab,GitOps 管理 40+ 微服务

    lyzetam 在 GitHub 开源 fako-cluster 项目,用 FluxCD 以 100% GitOps 方式管理跨 7 个异构节点(x86_64、ARM64、Apple Silicon)的 K3s 集群,运行 40+ 容器化服务。集群配备 RTX 5070 + RTX 3050 双 NVIDIA GPU 和 12TB NAS,部署 Ollama、Whisper、Keycloak、Prometheus、Grafana 等组件,Git 推送后 60 秒内自动完成部署与漂移检测。

  38. GitHub · 去对齐工具与仓库70

    终端编码 Agent purr 开源,面向小本地模型的长任务优化

    rephyr 在 GitHub 开源了终端编码 Agent purr,主打让小型本地模型在长而模糊的任务上表现更好,也支持 API 模型。自动发现 Ollama、llama.cpp、LM Studio、vLLM 本地模型,兼容 DeepSeek、OpenRouter 等 API;提供 code/ask/learn/pair/plan 等模式,自定义 Agent 为 Markdown 文件且兼容 Claude Code 与 OpenCode 的 Agent;无遥测、MIT 协议,Terminal-Bench 2.1 上配合 DeepSeek V4.1 Flash 单次尝试得 82.0% ± 4.1。

    推荐理由:原文给出了 Terminal-Bench 2.1 上 82.0% 的实测分数和针对小模型的容错与检查机制说明,可了解其设计取舍。