跳到正文
10月20日周二
  1. GitHub · 灵魂体仓库39

    mcp-cortex-intelligent:离线增强普通 LLM 的 MCP 服务器发布

    开源项目 mcp-cortex-intelligent 是一个离线 MCP 服务器,无需 API key 或外部服务即可为普通 LLM 提供上下文、知识库、记忆、自评校验与内部决策引擎。它提供 57 个工具,采用标准 MCP(stdio),兼容 OpenCode、Claude Desktop、Cursor、VS Code 等 MCP 客户端,数据存储使用 SQLite + FTS5,混合检索基于 BM25 + vector + RRF。项目要求 Node.js >= 22.12,经 MIT 协议开源,100% 离线运行且不发起网络调用。

  2. GitHub · 灵魂体仓库63

    TurnCall 开源自托管语音智能体引擎,一条 curl 创建能接真实电话的接待员

    TurnCall 在 GitHub 发布 MIT 协议的自托管语音智能体引擎,通过一条 curl 即可创建绑定 Twilio 号码的电话接待员。级联管线 STT、LLM、TTS 处理约 800ms,S2S 方式约 300ms,来电感知延迟另加默认 800ms 的 silence_timeout_ms。支持 Deepgram、OpenAI、Anthropic Claude、Gemini、ElevenLabs、Cartesia、Ollama、OpenRouter、AWS Bedrock 等可按 agent 更换的 STT/LLM/TTS 组合,本地跑 Ollama 时音频不出本机网络;还含外呼 campaign、RAG 知识库、MCP 工具、A/B 测试、通话后 LLM 分析与 PII 脱敏合规套件。

    推荐理由:原文给出完整的自托管语音智能体引擎架构与各环节延迟数字,读者可以对照自建方案评估管线和成本取舍。

  3. GitHub · 灵魂体仓库33

    ykoh42/web-llm-adapters:连接 WebLLM 与 Agent 框架的社区适配器

    web-llm-adapters 是一组社区适配器,将 WebLLM(通过 WebGPU 在浏览器本地运行 AI 模型)接入 Agent 框架。其中 langchain-web-llm 支持 LangChain 和 Deep Agents 但尚未发布,strands-web-llm 支持 Strands SDK 和 Harness,版本 0.1.0。首次加载会拉取 WebLLM 运行时和模型文件并由浏览器缓存,模型支持取决于 WebLLM 的 model_id 和量化方式,项目采用 MIT 许可。

  4. GitHub · 灵魂体仓库55

    开源求职工具 jobwatch 发布:盯住目标公司招聘板并生成排名摘要

    作者发布开源命令行与网页工具 jobwatch,监视关注公司的招聘板并生成匹配职位的排名摘要,可结合简历用 shortlist-ai 或本地 MLX 模型给出 fit 分数,明确不做自动投递。它读取 Greenhouse、Lever、Ashby、Workable、Workday、Amazon、Google 等 15 类公开职位源的 JSON,支持职位过滤、重复职位识别、申请进度追踪、HN Who is hiring 线程读取、MCP 接入,每 6 小时检查一次,遵循 robots.txt 且不爬取 LinkedIn 和 Indeed。

  5. GitHub · 灵魂体仓库56

    webkubor 开源 Scorecard:给 GitHub 仓库、npm 包、网页做九维成熟度体检

    webkubor 发布并开源了 Scorecard 工具,粘贴 GitHub 仓库、npm 包或网页 URL 即可生成含九维雷达图和整改清单的体检报告,线上版为 scorecard.webkubor.online。工具分四套独立引擎(GitHub 9 维 / npm 7 维 / 网页 9 维 / GEO 4 维),判据只取 API 可核实的客观证据,读不到的数据从分母剔除并标注「无法核实」而非记 0 分;另提供 GEO 引擎测品牌在 AI 答案中的提及率与引用率,支持 CLI、/api/scorecard/compare 对比模式和可直接交给 coding agent 的 /skill.md。项目 MIT 协议开源,线上版地址 https://github.com/webkubor/scorecard。

    推荐理由:作者详细说明了读不到的数据如何不进分母、判据对应哪些公开标准,读者可据此评估这类打分工具的可信度。

  6. GitHub · 灵魂体仓库48

    ActFold:面向 Diffusion LLM 投机解码的跨分支激活复用(Branch Folding)研究框架

    ActFold 是一个通过 Branch Folding(分支折叠)降低 Diffusion LLM 投机解码验证阶段算力的研究框架,逐层逐 token 判定复用父分支激活或重计算,目标削减验证阶段 TFLOPs 21%–62%。最新 AR022 交付在 Fast-dLLM-v2-1.5B 真实生成回路上实现贪心锚定批量投机 7.02× 于 baseline,且质量面逐位对齐(post-hoc 置信 gap = 0.0)。AR029 还交付了端侧有界内存金字塔激活缓存,机制基准 E1-E4 全 supported。

  7. GitHub · 灵魂体仓库68

    FreeClaw 开源本地 AI Agent 工具,主打低成本省钱运行

    eedeb 发布 FreeClaw,一个跑在自己机器上的低成本工具调用型 AI Agent,提供 Linux、macOS、Windows 一行安装脚本和带密码的深色 Web UI。它通过本地意图分类决定每条消息发送的历史窗口、温度和工具集,尽可能把流量路由到小而便宜的模型,并支持持久记忆、网页搜索抓取、bash 命令审批门、MCP 服务器、定时任务、多提供商回退、提示词缓存和 OpenAI 兼容 API,许可为 MIT。

    推荐理由:README 详细说明了意图分类路由、两级历史窗口、提示词缓存等省钱手段,是自托管低成本 Agent 的一套可参考工程做法。

  8. GitHub · 灵魂体仓库53

    ollama-intel 发布:用 IPEX-LLM 在 Intel 核显上本地运行 Ollama

    Ava-AgentOne 发布 ollama-intel,一个预配置 Docker 容器,通过 IPEX-LLM 的 SYCL 后端把全部模型层卸载到 Intel 核显(Meteor Lake、Arrow Lake、Arc)上运行 Ollama,无需独立显卡,兼容 Open WebUI 等 Ollama 客户端,主打 Unraid 与迷你主机用户。在 Core Ultra 7 155H 配 64GB 内存上实测,4B 模型约 15+ tok/s,7-8B 约 8-12 tok/s,14B+ 约 4-6 tok/s;镜像每周经 GitHub Actions 重建,NPU 推理暂不支持。

  9. GitHub · 灵魂体仓库52

    imjiaoyuan/yak 发布:Rust 编写的终端 LLM Agent 工具

    imjiaoyuan 在 GitHub 发布 yak,一个用 Rust 编写的插件式终端 LLM harness,单二进制文件仅约 3 个依赖(ureq、serde_json、unicode-width),无异步运行时,支持 Linux、macOS 和 Windows。bare yak 打开交互会话,yak "任务" 单次执行带工具的任务,会话以线程文件存储可随时恢复;内置 43 个 provider 目录(Anthropic、OpenAI、DeepSeek、Ollama、llama.cpp、vLLM 等),支持附件粘贴、记忆工具写入 ~/.yak/YAK.md、git 仓库形式的包安装,以及 --json 和 --rpc 控制接口。

  10. GitHub · 灵魂体仓库69

    开发者开源自托管 AI 骑行教练 DomestiqueAI,LLM 只解释工具算出的数字

    开发者 Arnaud Stadler 开源了自托管的 AI 骑行训练平台 DomestiqueAI,整合 Garmin Connect 与 Google Health 数据,基于 Ollama 运行智能体教练。系统规定 LLM 不得自行计算任何量化数字,只能解释 21 个类型化工具返回的结果,并用 promptfoo 构建确定性 CI 评测门禁检查数字来源、计划守卫和提示词变更。项目包含过训检测、每日检查与每周重排的自适应计划、六道确定性计划守卫、每运动员独立 SQLite 隔离、强制 TOTP 双因素认证,共 1245 个测试,2026-10-02 的 Strix 灰盒渗透测试未发现高危问题,可 Docker 部署在 Raspberry Pi 5 上。

    推荐理由:作者开源了自建的骑行训练 AI 教练,把模型限定为只解释工具算出的数字,防幻觉做法通过 CI 评测门禁落地,可迁移到其他 Agent 项目。

  11. GitHub · 灵魂体仓库54

    The Grill 发布本地 LLM 服务器速度对比工具 grill-perf

    plotarmordev 在 GitHub 发布 The Grill,其中 grill-perf 对已有的 OpenAI 兼容模型服务器做基准测试,改动引擎、flag 或机器后重跑,直接给出 measured faster、measured slower 或 inconclusive 的结论。工具本地运行、不上传数据,已在 vLLM、TensorFold 和 oMLX 上使用;示例中同一 4-bit Qwen3.8-Flash-Next 在 Mac Studio(M5 Ultra)达 246 tok/s,比 DGX Spark 的 118 tok/s 快 108.7%,但作者强调这比较的是整套部署而非芯片本身。

  12. GitHub · 灵魂体仓库69

    pascal-llm-stack:在 GTX 1060 上跑通本地 LLM 的完整配方

    jpsanders 发布 pascal-llm-stack 仓库,给出在 Ubuntu 26.04.1、kernel 7.0 上让 GTX 1060 Mobile 6 GB 运行本地 LLM 的完整脚本,包括给 NVIDIA 570 驱动打 kernel 7.0 补丁、用 CUDA 12.8 runfile 避开 apt 的驱动破坏、回退 torch 2.7.1 获取 Pascal 内核,以及用三个 cmake 参数编译 llama.cpp。

    推荐理由:作者在 GTX 1060 上逐层修通驱动、CUDA 和 PyTorch 并给出 llama-bench 实测,方法可迁移到其他老卡本地部署场景。

  13. GitHub · 灵魂体仓库49

    OrdinFlow:100% 本地离线的 AI 文档处理开源项目

    GitHub 开源项目 OrdinFlow 针对企业和医疗等机构的敏感文档处理,提供 100% 本地、可物理隔离(air-gapped)的解决方案,支持 GDPR、HIPAA 合规。它采用 Spatial ONNX OCR 与本地 Vision-LLM 的双引擎三层共识机制抑制模型幻觉,并内置基于 Set-of-Mark 视觉定位的 Agentic RPA,可自动操作缺乏 REST API 的 Windows 传统桌面软件。项目完全免费开源,可在消费级 GPU/CPU 上运行,无需 Docker/Redis。

  14. GitHub · 灵魂体仓库55

    开源本地优先 AI 工作区 Melo 发布,支持 macOS 与 iPhone

    Melo 是一个开源的本地优先 AI 工作区,覆盖 macOS、iPhone 和终端,对话、知识与记忆默认存本地,同步可选。用户可接入 Claude、OpenAI、OpenRouter、本地模型等自定义连接,按项目组织工作,跨对话携带上下文,并为每个 Agent 配置指令、模型与能力,支持 MCP 工具、可复用技能和多 Agent 协作。2026 年 10 月 17 日更新改进了工具兼容性、长对话上下文召回和共享项目记忆。

    推荐理由:开源的本地优先 AI 工作区,对话、知识和记忆都存本地,还支持多模型接入与 Agent 协作,适合关注数据主权的读者。

  15. GitHub · 灵魂体仓库59

    divemorb 开源 local-llm-harness 让本地 LLM 无人值守完成编码计划

    divemorb 开源了 local-llm-harness,一个让本地 LLM(llama.cpp 上跑 Qwen 27B)按计划步骤无人值守编码的工具,每步在全新 podman 沙箱中运行、经独立验证容器跑项目测试,通过后才提交。作者称在一个真实项目中用几周时间让本地模型写了大部分代码,约 80% 的步骤首次尝试即通过,仓库附带经验总结 LESSONS.md;安全模型靠容器隔离实现,沙箱无网络、只读 root、API 密钥不进入沙箱,仅通过 llmproxy.py 的 chat completions 代理通信。

    推荐理由:作者把一个真实项目中跑通本地模型无人值守编码的完整工具链开源,隔离沙箱和验证容器设计可直接复用。

  16. Hugging Face Blog58

    Hugging Face 发布 AnyLanguageModel 1.0,一年来本地模型接入 Apple 平台的成果

    Hugging Face 发布 AnyLanguageModel 1.0,它是 Apple Foundation Models 框架的 drop-in 替代,可让同一套 session 代码使用系统模型、llama.cpp/MLX/Core ML 开源权重模型及托管服务。1.0 版所有 provider 均支持工具调用与引导式生成,托管端支持 OpenAI、Anthropic、Gemini、Ollama、Hugging Face Inference Providers 等端点;同日发布 swift-huggingface 1.0 与 swift-xet 1.0,并可运行于 Linux。

    推荐理由:官方回顾了一年迭代脉络,并给出本地与托管推理共用一套 Foundation Models 风格 API 的具体做法,对 Swift 开发者有直接参考价值。

  17. Reddit · r/LocalLLaMA50

    开源工具 Hermo:把任意网站免费转成可调用的 API

    Reddit 用户发布本地优先免费工具 Hermo,可在 Chrome 中录制网页操作并发布为 API 端点,供应用、脚本或 AI 智能体调用。Hermo 在本地运行、复用现有浏览器会话,无云端浏览器和按请求收费,并支持 MCP,可用于自动化重复任务、提取网站数据或为无公开 API 的网站构建集成。

  18. Reddit · r/LocalLLaMA55

    AMD Ryzen AI Halo 迷你主机:$4k、128GB 统一内存跑本地大模型

    转引 TechPowerUp 报道:AMD Ryzen AI Halo 迷你主机定价 $4k,搭载 Ryzen AI Max+ 395 和 128GB 统一内存,可运行 32GB 显存 GPU 装不下的大模型;对比 NVIDIA DGX Spark 的 128GB 版 $7k,后者在 time-to-first-token、CUDA 集成和 fp8/fp4 支持上更快更全,但 Halo 支持 Windows 和 Linux、完全本地私有、无订阅和云依赖,代价是内存带宽、待机风扇噪音和缺乏高级精度格式。作者还实测用 128GB Strix Halo 机器加载 qwen3.8-flash,通过 codex 配合 sumus 做本地多文件重构,把整个仓库和模型同时放进统一内存实现离线工作。

  19. Reddit · r/LocalLLaMA57

    BigMoeOnEdge 作者展示自适应流式优化器,可在消费级硬件上运行大型 MoE 模型

    BigMoeOnEdge 作者发布自适应流式 Planner,作为 llama.cpp 之上的资源调度层,在手机、Mac、Windows 笔记本等设备上运行远超内存的 MoE 模型,并提供 OpenAI 兼容本地服务器。实测 Qwen3.6-35B-A3B 在 12GB Android 手机上解码 10 tok/s、NPU prefill 100-300+ tok/s,16GB Mac 上 Planner 将解码从 7 提升到 25-30 tok/s、2000-token prompt 从 21 秒降到 3.4 秒;DeepSeek V4 Flash 284B 在 12GB 手机上 1 tok/s。作者考虑向 llama.cpp 提 PR 集成。

  20. Hugging Face Blog73

    Hugging Face 介绍 PyTorch 2.15 的 MPS 后端改进:FP8 登场,MoE 解码最高提速 6.5 倍

    Hugging Face 的 PyTorch 团队介绍 PyTorch 2.15 对 MPS 后端的改进:新增 float8_e4m3fn 张量与 F.scaled_mm,MoE 模型解码比 2.14 提速 5 到 6.5 倍,M3 Ultra 上 Qwen3.6-35B-A3B 从 9.4 升到 61.3 tokens/s,LFM2.5-8B-A1B 从 23.6 升到 123.6 tokens/s。线性层走专用 GEMV 内核(几何平均 1.23 倍),词表 softmax 约 8 倍加速;Wan2.2 视频 VAE 解码的驱动内存峰值从约 270 GiB 降到 8 GiB,并修复了 Qwen-Image-2.1 VAE 编码器在 MPS 上损坏图像的问题。

    推荐理由:Hugging Face PyTorch 团队亲述 MPS 后端改进细节,给出各模型的实测吞吐数字,Mac 上跑模型的读者可以对照评估升级收益。

  21. GitHub · 3D 生成新仓库28

    CodeMind 开源:基于 Electron 的跨平台 AI 原生开发者桌面 IDE

    开源项目 CodeMind 发布 v1.0.0,这是一款基于 Electron、React 和 NestJS 构建的跨平台 AI 原生开发者桌面 IDE,支持 Windows、macOS 和 Linux。它集成了多模态 AI 结对编程、Monaco 代码编辑和上下文感知聊天,支持 Anthropic Claude、OpenAI GPT、Google Gemini 云端模型,并可通过 Ollama 接入 Llama 3、DeepSeek Coder 等本地模型自动回退。后端采用 PostgreSQL 16 与 Redis 7,项目以 Turborepo monorepo 形式组织。

  22. GitHub · 3D 生成新仓库39

    maxgfr 开源 ai-strategy-backtester:基于 Binance 历史数据的加密货币策略回测工具

    GitHub 新仓库 maxgfr/ai-strategy-backtester 是一个基于 Binance 历史数据的加密货币策略回测工具。它支持 51 种技术指标、以 JSON 声明式定义策略而无需写代码,并能通过自然语言让 AI 生成经过校验的策略 JSON。工具内置 24 个现成策略、1x-125x 杠杆与做空、t 检验与 1000 次 Monte Carlo 模拟、walk-forward 验证防过拟合,并以 HTML 报告输出排名结果。

  23. GitHub · 3D 生成新仓库49

    DSN-exp 仓库发布:完全本地运行的智能体底座框架 AICF

    GitHub 新仓库 DSN-exp 发布了一套完全本地运行的智能体底座 AICF(Agent Infrastructure Cybernetics Framework),包含 infra(模型编排、资源池)、harness(Agent 循环、18 个标准工具、记忆与人格)与 apps 三层结构。框架支持 llama.cpp、Strata、LM Studio 及 OpenAI/Anthropic API 四类后端,主入口为基于 FastAPI + SvelteKit 5 的 Web 控制台 dsn_ui。项目总计约 583 个文件、12 万行代码,内置 90 个测试文件,当前基线为 547 通过 / 0 失败,属内部实验性项目、无公开许可证。

  24. GitHub · 去对齐工具与仓库23

    c0deZ0ne 开源 autonomouse-agentic-task-schedular-mcp:基于 MCP 的 AI Agent 学习项目

    GitHub 上的 c0deZ0ne/autonomouse-agentic-task-schedular-mcp 是一个教学用 Python 仓库,展示如何从检索与嵌入向量逐步构建一个有状态、可调用工具的 AI Agent。该 Agent 通过 MCP 客户端发现本地 MCP 服务器上的时间、密码生成、掷骰子等工具,由 LLM(默认 qwen3:4b,经 Ollama 本地运行)选择下一步动作并执行,采用 planner–executor 循环与可配置步数上限。项目仍处于学习阶段,planner 尚不能生成工具参数,也缺少固定版本的依赖清单。

  25. GitHub · 去对齐工具与仓库19

    PackWise AI:离线优先的自主旅行操作系统(Thranae/packwise)

    PackWise AI 是一款离线优先的企业级自主旅行操作系统,采用自愈式多 LLM 编排器,按任务在 Google Gemini 2.5 Flash、Groq Llama 3 / OSS 120B 间路由,并以 OpenAI GPT-4o / Sol、Mistral Large 和 OpenRouter 池作多级故障转移,避免单点 429/500 停机。本地写入基于 Dexie.js (IndexedDB),联网后经 /api/trips/sync 批量对账同步至 MongoDB Atlas;界面提供 60 FPS Three.js 地球与 MapLibre GL 卫星视图,跨 Web PWA、Capacitor 8 iOS/Android 与 Expo 运行。

  26. GitHub · 去对齐工具与仓库46

    KnowledgeOS:基于内部文档的检索问答项目,带引用校验与诚实拒答

    GitHub 开源项目 KnowledgeOS(MIT 许可)v1 已构建并测试,仅基于检索到的内部文档回答问题,每条引用在返回前用 Python 程序化校验,证据不足时明确拒答。检索采用 Postgres 全文搜索加 pgvector 相似度并经 RRF 融合,分块为 512/64 overlap;评测基于 10 篇文档的 fixture 语料和 52 个标注问题,离线运行检索与回答两套测试。目前无公开部署实例,提供两种免密钥本地演示模式。

  27. GitHub · 去对齐工具与仓库36

    Math-ieu/rag-llmops-azure:基于 Azure OpenAI 的企业级 RAG LLMOps 平台

    Math-ieu 在 GitHub 开源 rag-llmops-azure,一套基于 Azure 的生产级 RAG LLMOps 平台。它用 Azure OpenAI 的 text-embedding-3-small 与 GPT-4o/GPT-4o-mini,在 PostgreSQL pgvector 上实现 HNSW 索引与 RRF 混合检索,并通过 GitHub Actions 中的 LLM-as-a-Judge 质量门禁(忠实度 ≥ 0.85、相关性 ≥ 0.70)阻断回归部署,同时集成 Langfuse 分布式追踪与实时成本计算。

  28. GitHub · 去对齐工具与仓库25

    AI-demand-Intelligence-platform:基于 M5 数据集的零售需求智能平台

    nisarg6710 在 GitHub 开源了一个端到端 AI 零售需求智能平台,将 M5 Forecasting 数据集(转换后超 5800 万条销售记录)转化为预测洞察与自然语言决策支持。系统经 ETL 管道写入 MySQL 数据仓库,结合 FastAPI、React 前端、RAG(FAISS 向量库)与 Forecast、Analytics、Inventory、SQL、Executive 等多智能体,LLM 采用 Google Gemini,仅作解释层而非数值来源。

  29. GitHub · 去对齐工具与仓库50

    shitc:把伪代码交给大模型编译成真实代码的开源 CLI 工具

    开源工具 shitc 将 .shit 伪代码文件(如拼错的函数调用、中文描述、伪 C)发送给大语言模型,由模型选择目标语言并生成代码,工具负责写入文件、构建和运行。它使用 OpenAI 兼容协议,支持流式输出、结构化 JSON、reasoning/CoT 参数配置,默认模型 gpt-4o-mini,需 Node.js 20.11+,源码写入 ~/.shitc/build/,可执行文件输出到当前目录,采用 MIT 协议。

  30. GitHub · 去对齐工具与仓库49

    CrawlViz:先打分再抓取的主题聚焦网络爬虫

    GitHub 开源项目 CrawlViz 是一个主题聚焦的网络爬虫,用本地嵌入模型加选择性调用的 LLM 对每个链接先打分再抓取,并以实时图和事件时间线记录每次决策、支持回放。参考运行中它从 50,828 个链接中只探索 539 个节点(约 1%),仍生成按并发症、治疗和流行病学清晰聚类的图。系统含 57 类事件的进程内 pub/sub 事件总线、Pydantic 校验的 JSON blueprint 及两级打分级联。

  31. GitHub · 去对齐工具与仓库45

    mwm-harness:面向 Qwen、Kimi 和 GLM 的个人 agent harness 项目发布 0.1.0 版本

    GitHub 上的 mwm-harness 0.1.0 是一个仿照 Claude Code 和 Qwen Code 的个人 agent harness,可在任何 OpenAI 兼容端点上运行 Qwen、Kimi 和 GLM 模型,提供四种权限模式、bubblewrap 沙箱、hooks、MCP 客户端、技能与子智能体,并复用现有 Claude Code 的 hook 脚本、.mcp.json 和 SKILL.md。项目含浏览器面板与终端两个前端、/undo 与 /postmortem 命令及 52 例的 mwm-eval 评测;目前仍在开发中,仅对本地模型(如 Ollama 上的 4B 模型)跑通过,三个托管目标模型尚未运行。

  32. GitHub · 去对齐工具与仓库34

    LLM-Trader:用 LLM 在埃及交易所跑双策略模拟交易的开源实验项目

    GitHub 开源项目 LLM-Trader 在埃及交易所(EGX)交易时段每约 15 分钟让 LLM 对模拟组合做出买入/卖出/持有决策,以虚拟资金按延迟价格记账,并将推理过程以 JSON 提交到仓库,由部署在 Vercel 的 Next.js 面板展示。项目并行运行两个独立策略:EGX30 成分股的半长期 Core 策略与约 91 只 EGX100 流动性股票的 Swing 短线策略,后者目标每仓位约 +2–3%、止损约 −3–4%。模型调用以 OpenRouter 为主,Gemini 与 Groq 兜底,行情数据来自 Yahoo Finance,全程无真实资金。

  33. GitHub · 去对齐工具与仓库58

    rjwalters/llm-monitor:macOS 菜单栏多账号 LLM 订阅用量监控工具

    rjwalters 发布 llm-monitor(前身为 Claude Monitor)2.0,可在 macOS 菜单栏或 Linux 无界面模式下监控 Claude、OpenAI Codex 和 z.ai GLM Coding Plan 多个账号的订阅用量。工具调用 Claude Code 使用的内部端点,用 claude setup-token 生成的长期 OAuth token 读取 5 小时与每周配额、重置时间和用量趋势,数据存于本地 SQLite;还支持 headroom 评分、每账号历史图表、transcript token 统计、配额校准与多主机同步。项目地址 https://github.com/rjwalters/llm-monitor。

  34. GitHub · 去对齐工具与仓库57

    Longrun 开源自托管 AI Agent 框架,支持浏览器 UI 与热更新扩展区

    jagones84 发布 Longrun,一个自托管 AI Agent harness,提供浏览器 UI、工具会话、任务图、团队编排、HTTP/SSE API 和 CLI,需 Python 3.10+,支持 Windows 与 Linux x86_64/ARM64。核心设计为 Nucleus 受保护核心与 Matrix 可热编辑区分离,Matrix 文件改动无需重启即生效,可通过 promote_to_nucleus 经测试、开关、checkpoint、提交四道门控晋升进核心;支持 OpenRouter、Ollama、llama.cpp、LM Studio 等本地或托管模型,含会话记忆、代码库索引与跨会话 Knowledge Base,AGPL-3.0 许可,验收测试 223/223 通过。

    推荐理由:README 详述了 Nucleus/Matrix 双区自扩展机制与四道晋升门控,读者可以据此评估这个自托管 Agent 框架的工程设计。