内容形态
开源仓库与工具：人格工程、记忆系统、去对齐脚本、推理与微调工具链。
2,050 条精选近 30 天 2,043 条共收录 8,516 条
Djordje Marković 发布开源工具 vir（MIT 协议，npm 安装），自动读取 ~/.claude/projects 下的 Claude Code 会话记录，用 Haiku 分类、Sonnet 蒸馏成带置信度的 markdown 笔记，沉淀为可查询的 LLM Wiki，支持 Obsidian、MCP server 和 CLAUDE.md 回写。作者实测 1386 条转录中 410 条成笔记，226 会话回填经 Kie 定价约 $21（Sonnet）；0.25 版新增 vir connect，将在至少 3 个会话中重复出现的教训提炼为需人工确认的规则。灵感来自 Andrej Karpathy 2026 年 4 月提出的 LLM Wiki 模式。
推荐理由：作者给出 226 个会话的实测成本与置信度分布，并逐项对比其他 LLM Wiki 实现，便于判断是否适配自己的工作流。
ArcavenAE 在 GitHub 发布 Marvel，一个面向 AI Agent 工作负载的类 Kubernetes 控制平面，管理 BYOA 会话的调度、配置、进程管理、健康监控和滚动换班。它通过 tmux 编排 Agent 会话，资源模型为 Workspace、Team、Role、Session 四层，用 TOML 清单声明资源，支持 heartbeat 和 process-alive 健康检查、重启策略、按代际的滚动 shift，以及 claude、codex、opencode 等运行时适配器。安装支持 Homebrew、mise 和预编译二进制（macOS arm64/amd64、Linux amd64/arm64），项目用 Go 编写，要求 Go 1.25+ 和 tmux。
推荐理由：原文完整给出了资源模型、TOML 清单、CLI 命令和健康检查配置，读者可以直接照着部署多智能体会话编排。
awaku7 发布 llmcapa，一个基于 Python 标准库、默认离线运行的模型能力查询库，内置 OpenAI、Anthropic、Google、Meta、Mistral、Qwen、DeepSeek、xAI 等厂商及 Ollama（1,656 个模型）、HuggingFace（2,904 个热门模型）的能力数据。支持自动解析模型别名、查询上下文窗口与多模态等特性、估算 token 数和 API 成本、检查模型能否安全替换，并提供 CLI；可选按需从 OpenRouter、HuggingFace 或 GitHub 目录刷新数据。项目采用 Apache License 2.0，仓库地址 https://github.com/awaku7/llmcapa。
推荐理由：这个离线查询库内置了数千个模型的上下文窗口、模态和功能支持数据，还提供模型替换检查和成本估算，可直接装进现有工作流。
Optimatech Labs 在 GitHub 发布 feel-smart-llm，用单个 Python 文件加 numpy 从零实现大语言模型的注意力、损失与手写反向传播，无云端、无 API、无 PyTorch，仅依赖 numpy。模型约 10,689 参数，在文件内段落上训练 4000 轮约需 30 秒（Apple M4 Pro），支持 --text 训练自定义文本、保存加载权重、held-out 损失和温度采样，另有 JavaScript 移植版可在浏览器本地运行。2026 年 10 月更新修复了反向传播中 Wo 梯度用错输入、嵌入梯度经 Wo 重复流回两处错误，新增有限差分梯度检查（--check）、按全局范数的梯度裁剪、单元测试，MIT 许可。
推荐理由：作者用单文件 Python 实现完整 LLM 训练，并给出梯度检查发现反向传播错误、修复前后损失对比和过拟合实测数据，可作理解训练原理的动手材料。
the-banana-tool 在 GitHub 开源了 King Louie，一个跨平台 AI 聊天桌面应用，支持自带 API key 接入 OpenAI、Anthropic、Gemini、Ollama 等 13 家提供商，并内置 Agent 工具、20+ 内置工具、工作流引擎、动态子 Agent、Telegram/Discord/Slack 频道桥接、P2P mesh 组网和 cron 调度。应用支持 Windows、macOS、Linux 安装包，也可通过 king-louie-service 以无 UI 服务模式运行；文档详细说明了密钥管理、频道默认拒绝白名单、git 安全防护，以及 Windows 上 LOCAL SERVICE 共享账户导致 master key 保护不足的已知缺口。
推荐理由：README详细给出了服务模式安装、密钥存放和频道白名单等安全设计，读者可以对照了解自托管Agent桌面的工程取舍。
作者发布 the-benchmark，一个零依赖的本地 LLM 服务器基准工具（https://github.com/MrBrunoWolff/the-benchmark），支持任何 OpenAI 兼容的 /v1/chat/completions 端点，包括 LM Studio、Ollama、llama.cpp server 和 vLLM。工具测量 prefill、generation、concurrency 和 agentic 四个阶段，并新增可选的 Studio 本地 UI，可用 Docker 隔离环境运行经独立验证的编码与文件类 agent 任务。
推荐理由：这是作者对自家本地 LLM 基准工具的完整说明，四组实测数据展示了为什么 tok/s 不能预测 agent 任务的实际完成时间。
作者发布开源工具 moni_token，通过读取 Claude Code 本地日志定位限额用量激增的会话与成因（如长对话多次调用工具、闲置后恢复会话、并行会话等），并给出可节省的用量估算。工具不调用任何 LLM、无网络访问、只读日志且不存储对话文本，仪表盘为单个静态 HTML 文件（界面当前为韩文），README 还与 ccusage、Claude Code Usage Monitor、ccflare 做了功能对比。
推荐理由：原文详细给出了基于规则定位 Claude Code 用量激增成因的可复现方法，并与 ccusage 等既有工具做了明确分工对比。
aprilMcintosh 在 GitHub 发布 ai-world，一个完全在本地运行的模拟世界，两名初始村民由语言模型驱动自主思考、交谈、建家、繁衍直至老死，全程无需操控。世界基于 Node 18 运行 node server.js 即可启动，通过 Ollama 加载模型（如 gemma4:e2b，大内存可用 gemma4:12b），支持大小双模型分工，大模型负责对话与创造，小模型处理日常决策并占约 60% 时间。村民拥有七维性格、五层需求金字塔，可发明工具与建筑、在篝火旁立规矩、推举首领，世界每 30 秒存档，数据不离开本机。
推荐理由：README 交代了双模型分工、人格由性格参数先行和全本地部署的做法，对想搭建类似 LLM 沙盘模拟的人有可借鉴的方法。
Braydenh563 在 GitHub 发布 MemoryMap-AI 0.4.1（beta），一个本地优先的笔记应用：输入想法后由本地 AI 自动分类、打标签并建立链接，提问时返回逐句引用笔记来源的答案。AI 通过 Ollama 或任意 OpenAI 兼容本地服务器运行，数据存于单个 SQLite 文件，无账号、无云端、无遥测；无模型时仍可按笔记自身词汇归档和搜索。功能包括 Agent 模式（65 个工具、21 个内置技能）、文档编辑器、白板、思维导图、图谱、时间线、OCR 与扫描 PDF 读取、从 Notion/Obsidian/Evernote/Apple Notes 导入，支持 Windows 安装包、Linux tarball 及源码运行，采用 AGPL v3.0 许可证。
推荐理由：本地优先的笔记应用，AI 归档、问答引用和隐私设计都写清了实现方式，想搭本地知识库的读者可以对照其架构取舍。
alisaadbaig 在 GitHub 发布 local-llm-chat，一个自托管模型的 ChatGPT 风格网页界面，后端为 FastAPI + SQLite，前端无构建步骤。支持把 vLLM、Ollama、llama.cpp、LM Studio、SGLang 服务器注册为后端并合并到一个模型下拉框，可同时向多个模型发消息并排对比流式输出，提供 24 个内置模板、12 条提示词库、附件与 token 预算提示，附 systemd 部署文件与 /api 接口。
推荐理由：原文完整给出了架构、配置和部署步骤，读者可以直接照着把多个 vLLM、Ollama、llama.cpp 服务器接进同一个聊天界面。
tommy5dollar 发布 Claude Code 插件 effort-router，为每个 prompt 和 subagent 自动选择 effort 级别，让简单任务降级运行，作者称用量最多延长一倍、回答最快快 3.5 倍。前五个 prompt 会被检测并固定到合适级别，支持用 markdown 添加路由规则，/er report 可查看各级别工作量。作者自测中 Fable 5.1 从 xhigh 降到 medium 后，三个小任务约 2 分钟、$1.10-$1.65 完成，而留在 xhigh 需 6-8.5 分钟、$3.20-$3.75；路由本身每会话约花 $0.20。兼容 Fable 5.1、Opus 5.5 和 Sonnet 5.5，支持 Desktop 应用和终端安装。
推荐理由：作者给出自测数据，包括 xhigh 降到 medium 后 2 分钟对 8.5 分钟、$1.10 对 $3.75 的成本时间对比，可据此评估是否值得装。
falkenslab 在 GitHub 发布 agent-kit，一个基于 Claude Agent SDK 的 AI agent 构建基础框架，统一解决人工监督、安全、记忆和终端界面，具体 agent 只需定义自身领域。支持自主、引导、逐步和 plan 四种监督级别并可在会话内切换，跨会话知识库与 --continue / /resume 恢复，MCP 服务器、插件化 skills 与子 agent 委派，多语言界面，以及 Claude Code 风格的全屏终端聊天。
推荐理由：基于 Claude Agent SDK 的 agent 基础框架，把监督级别、记忆、安全和终端界面做成通用层，附示例和最小 agent 代码。
Chris0Jeky 发布开源 CLI 与 GitHub Action llm-release-gate，将基线与候选 LLM 应用配置在版本化 golden/replay 数据集上对比质量、弃答、引用、schema、延迟、token 与成本指标，超阈值即在 PR 上报告并使检查失败。
推荐理由：开源 CLI 与 GitHub Action，在 PR 阶段对 prompt、模型或检索改动跑回归评测并按阈值拦截，附离线演示与指标定义。
作者开放了自己的 Claude Code 个人配置仓库 old-mikser/llm-stuff，包含 6 个 hooks 和 1 个 /orchestrate 技能。完成提示音默认在有后台 agent 运行时静音，待办检测用 agentId 区分后台 Bash；评论治理 hook 分两级置信度处理注释中的元数据，在约 95k 行真实注释上 tier 2 误报率 0.06%，并以 git pre-commit 加 core.hooksPath 全局分发作为兜底，deny-no-verify.sh 阻止 git commit --no-verify 绕过。
推荐理由：作者公开了自己在多台机器复用的 Claude Code hooks 配置，包含实现细节、测试和真实代码库上的误报率数据，可直接迁移。
takeshy 在 GitHub 发布开源 Obsidian 插件 obsidian-llm-hub（MIT 许可），提供多提供商 AI 聊天、vault 工具函数调用、25 种节点的可视化 Workflow Builder、本地语义搜索（RAG）和编辑历史追踪。插件支持 Gemini、OpenAI、Anthropic、OpenRouter、Grok、OpenCode Zen/Go、本地 LLM（Ollama、LM Studio、vLLM）及 CLI 后端（Antigravity、Claude Code、Codex CLI），可通过 Discord 集成和 MCP 服务器扩展，聊天历史和工作流日志支持 RSA+AES 加密。
推荐理由：这份 README 详细列出了各提供商在聊天、vault 工具、搜索和图像生成上的支持矩阵，方便读者按自己的模型组合评估适用性。
takeshy 发布 Obsidian 插件 Local LLM Hub，把 Gemini Helper 的工作流自动化、RAG、MCP 与 Agent 技能完整搬到本地环境，支持 Ollama、LM Studio、vLLM 或 AnythingLLM，数据全程不离开本机。核心功能包括用自然语言让 AI 生成和修改工作流与技能（含无效 YAML 自动重试）、23 种节点类型的可视化编辑器、本地嵌入的 RAG 索引与搜索、SKILL.md 技能注入、本地 stdio MCP 服务器、聊天与语音输入朗读、Vault 工具函数调用及文件加密。可通过 BRAT 安装，作为 obsidian-gemini-helper 的纯本地姊妹插件面向云端 API 受限环境。
推荐理由：原文详细给出了本地 LLM 工作流引擎、RAG、MCP 与 Agent 技能的完整架构和配置方式，读者可以按需迁移到自己公司受限环境复用。
replygirl 发布了 Kuru，一个 Rust 编写的终端聊天框架，原生架构是由具有私有记忆、可互相寻址的持久部分（parts）组成的对等池，并支持 IFS、多迷走神经、弗洛伊德和荣格等框架模式。各部分可结成二至四人的临时关系并成为用户可见身份，会话保存在本地版本化 Dolt 数据库中；安装提供 mise、脚本安装和源码构建三种方式，支持 macOS、Linux 与 Windows，MIT 许可，默认禁用写入和 shell 执行。
推荐理由：作者用心理学框架组织持久对等人格池并给出完整安装与架构说明，读者可以了解一种把 IFS 等框架当作计算隐喻的实现路径。
howardguoui 在 GitHub 开源 filings-rag，可对 SEC 10-K 文件提问并给出标注精确出处的回答。项目用 Postgres 中 pgvector 与全文检索经 RRF 融合的混合检索，配 ms-marco-MiniLM-L-6-v2 交叉编码器重排，答案只用编号来源并逐句引用，无法回答时明确拒答；支持 Claude API、Ollama、vLLM 三种后端，并内置 36 题的 RAGAS 评测套件与本地、Render 部署方案。
推荐理由：原文完整给出混合检索、重排与 RAGAS 评测的实现细节和指标定义，读者可以直接复用这套 RAG 工程做法。
NVIDIA 开源的 NeMo AutoModel 是 PyTorch DTensor 原生的 SPMD 训练库，支持 LLM、VLM、扩散模型和检索模型的预训练、SFT、LoRA/QLoRA 微调与知识蒸馏。同一训练脚本通过修改 device mesh 配置即可从 1 GPU 扩展到 1000+ GPU，支持 FSDP2、TP、CP、PP 等可组合并行、FP8/MXFP8 训练、MoE 加速（DeepEP）、序列打包与异步 checkpointing，与 Hugging Face 生态兼容实现 day-0 模型支持。
推荐理由：官方仓库给出了从单卡到多节点的 YAML 配方和模型覆盖清单，读者可以据此评估是否用它做 LLM/VLM 微调。
pablo-tech 发布 principia 仓库，把工作标准写成独立的 markdown 文档（doctrine/），并用 pre-commit 钩子脚本强制执行其中可机器判断的部分。每条规则须引用具体先行工作才能收录，如测试须能失败（Popper, 1934）、大文件不进 git 历史（上限 25 MB）。通过 symlink 适配器让多个 agent 和租户共享同一份文档而不产生副本漂移，MIT 许可。
推荐理由：原文讲清了把工作标准从单一 agent 配置中分离的动机，以及用 pre-commit 钩子强制执行的具体做法。