跳到正文

内容形态

开源项目 最新动态

开源仓库与工具:人格工程、记忆系统、去对齐脚本、推理与微调工具链。

2,050 条精选近 30 天 2,043 条共收录 8,517 条

更新

精选归档 · 第 94 页

10月6日周二第 1861–1880 条
  1. GitHub · 去对齐工具与仓库70

    ShadowLM Trainer 开源:面向任意开放模型的微调 SDK

    Lyzr Research Labs 在 GitHub 开源了 ShadowLM Trainer,一个微调 SDK,支持对任意开放模型用 LoRA、QLoRA、DoRA、DPO、GRPO、MoRE 等 13 种方法训练,覆盖 CUDA、TPU、Trainium、Intel、Apple Silicon 和 CPU。

    推荐理由:原文完整列出了 13 种训练方法、后端与硬件支持,以及从流量捕获到接管前缘模型的完整迁移流程,可按需复用。

  2. GitHub · 去对齐工具与仓库59

    jrajath94 开源面向研究工程师的 LLM 知识库仓库

    jrajath94 在 GitHub 发布 llm-knowledge-base,一个面向研究工程师的大语言模型知识库,覆盖数学基础、深度学习、LLM 内部机制、预训练、分布式训练、后训练与 RL、推理服务、Agent 与 RAG、MLOps、GPU kernel 等内容。

    推荐理由:原文列出了知识库的完整卷目和角色路径,读者可据此判断是否适合按岗位规划 LLM 学习路线。

  3. GitHub · 去对齐工具与仓库62

    Ajah 开源自托管 LLM 可观测网关

    Ajah 在 GitHub 开源了一个自托管 LLM 可观测网关,MIT 协议,应用只需把 base_url 指向 localhost:8080 即可接入。

    推荐理由:原文给出了完整架构、延迟数字和 RAG 校验机制,读者可以据此评估这个自托管网关是否替代现有 SaaS 可观测方案。

  4. GitHub · 灵魂体仓库69

    heyman 开源:让模型读本机 man 页面把自然语言转成 shell 命令

    alecf 开源了 heyman,一个把自然语言请求转成 shell 命令的 CLI 工具,模型通过 man、man_search、which 三个工具读取本机 man 页面,使生成的命令参数匹配当前系统(macOS 用 BSD 语法,Linux 用 GNU 语法)。

    推荐理由:作者用 50 例评测给出各模型通过率与延迟对比,本地部署的上下文窗口和内存坑也写清了。

  5. GitHub · 灵魂体仓库65

    Kairos Code 开源:带强制评审门禁与成本账本的自托管多智能体编码流水线

    Kairos Code 在 GitHub 开源(0.1.8 alpha,AGPL-3.0),是一个自托管、模型无关的多智能体编码流水线:Coder 写代码,Reviewer 按分数阈值逐轮评审,未过门禁不收工,循环有 8 种停止条件(含 50 轮硬上限、token 上限默认 500k、30 分钟时限等)。

    推荐理由:原文给出了评审门禁、成本账本和 Gate Report 的具体实现与停止条件,读者可以据此判断这套多智能体流程是否值得自托管。

  6. GitHub · 灵魂体仓库58

    AgentWorks 开源目标驱动 AI Agent 平台发布

    manishiitg 在 GitHub 开源了 AgentWorks,一个目标驱动的 AI Agent 平台:用户描述目标、设定指标和阈值,Agent 按计划定时执行、每次运行都测量指标,并根据结果自动修改计划。

    推荐理由:开源目标驱动 Agent 平台,复用 Claude Code、Codex 等 CLI 并按指标自动改进工作流,附完整安装与自托管说明。

  7. GitHub · 灵魂体仓库66

    开源 Agent 记忆系统 Mnemosyne v1.0.1 发布,本地优先并支持 MCP

    onfire7777 开源了 AI 记忆系统 Mnemosyne(mnemosyne-memory v1.0.1,Apache 2.0),定位是给 AI Agent 提供可检索、可审计、可跨会话携带的记忆,采用内容寻址证据账本加混合检索(FTS + pgvector HNSW + 图/PPR)、双时间线信念、置信度校准弃答和 MCP 支持。

    推荐理由:原文给出检索、校准与 SLO 的具体实测数字和已知缺口,读者可以据此评估这套本地优先的 Agent 记忆系统是否值得部署。

  8. GitHub · 灵魂体仓库58

    Model Arkestra 开源:按需调度本地与云端 LLM 推理引擎

    marc-ramsey 在 GitHub 开源 Model Arkestra,通过 YAML 配置按需在本地 GPU 和云端启动 LLM 推理引擎,默认运行 llama.cpp,支持 ROCm、Vulkan RADV、CUDA、CPU 后端及 Podman/Docker 容器。

    推荐理由:原文完整给出了 YAML 配置、后端映射和远程联邦的用法,读者可以直接照着在自家 GPU 机器上部署。

  9. GitHub · 灵魂体仓库63

    AryenP 开源自托管 LLM 推理平台,附检索与评测门禁

    AryenP 在 GitHub 开源了一个自托管 LLM 推理平台,用 vLLM 部署 Qwen3-8B,FastAPI 网关后接 PostgreSQL + pgvector 混合检索,覆盖约 1 万篇 arXiv 摘要(11,991 个 chunk),并用 CLI 评测工具在指标回退时以非零退出码拦截发布。

    推荐理由:作者给出 BF16 与 AWQ 在不同并发下的实测延迟和成本数据,并解释了延迟与吞吐为何必须分开测量的方法。

  10. GitHub · 去对齐工具与仓库69

    Treeweft 开源 GraphRAG 代码搜索引擎,实测比 grep agent 省 11–47% 成本

    Treeweft(前身 Treeloom)发布了一个 GraphRAG 代码搜索引擎,用 tree-sitter 将代码解析为 AST,再把调用、导入、继承和引用织入 Neo4j 图谱,结合 Milvus 向量检索、BM25 与 HyDE 查询扩展进行混合搜索,并通过 MCP 供 agent 调用。

    推荐理由:原文给出三种 agent 模型上的对照基准,可据此判断 GraphRAG 代码搜索相对 grep 方案在哪些问题上省成本。

  11. GitHub · 去对齐工具与仓库58

    9router-go 发布:单二进制 AI 路由器,可省 20-40% token 并自动回退免费模型

    luqman-v1 在 GitHub 发布 9router-go,用单个 Go 二进制实现 9Router 的 AI 路由与 token 节省功能,无需 Node.js 运行时,内嵌 Svelte 仪表盘。

    推荐理由:原文给出 RTK 压缩的 20-40% token 节省幅度和订阅到免费的三级回退结构,可据此评估这个 Go 单文件路由器的实际成本收益。

  12. GitHub · 去对齐工具与仓库56

    Full Offload 上线:众包本地 LLM 全卸载 tokens/s 实测数据库

    fulloffload.com 收集本地 LLM 的真实 tokens-per-second 实测数据:用户提交设备、所用命令(llama.cpp、Ollama、vLLM、MLX、LM Studio 等)及其输出的生成与 prompt 处理速度,访客按 GPU 或 Mac 查看各 runtime、模型、量化和设备数量的中位速度,每个数字都附原始命令。

    推荐理由:原文完整公开了众包本地推理测速站点的架构与部署细节,读者可以照着复现或提交自己的硬件数据。

  13. GitHub · 灵魂体仓库62

    m365-copilot-proxy:把 Microsoft 365 Copilot 封装成 OpenAI 兼容后端的开源代理

    cramt 在 GitHub 发布 m365-copilot-proxy,将 M365 Copilot 的 SignalR WebSocket API 封装为 OpenAI 兼容接口,供 pi、OpenClaw 等编码智能体调用,支持工具调用与图像生成。

    推荐理由:作者用实测基准数据说明各模型在代理任务上的表现差异,并给出工具调用模拟与配额规避的具体做法,可直接复用。

  14. GitHub · 灵魂体仓库65

    开源自托管工作平台 weave 发布,AI 智能体可经 MCP 直接操作

    grunion-ai 发布开源自托管工作平台 weave,定位为 Airtable、Fibery、Notion 数据库和 ClickUp 的替代品,将 AI 智能体作为一等用户。

    推荐理由:原文给出了与 Airtable、NocoDB、Grist 等产品的逐项对比和部署要求,读者可以据此判断它是否适合替代现有工作管理工具。

  15. GitHub · 灵魂体仓库55

    onesource 开源:一条命令把代码库转成可复用的 AI 上下文

    TW-RF54732 发布 onesource,一条命令即可把代码库转成可复用的 AI 上下文,输出过滤后的目录树、按 <file path="…"> 包裹的文件内容和估算 token 数。

    推荐理由:原文完整给出安装、过滤规则、目录树控制和可复用 profile 的用法,读者可以直接照着把代码库打包成 AI 上下文。

  16. GitHub · 灵魂体仓库59

    Rust 终端编码 Agent dex 开放源码

    sumofbytes 在 GitHub 发布了用 Rust 编写的终端编码 Agent dex,通过 read、bash、write、edit、grep 等工具和 MCP 服务器操作本地文件,支持 OpenAI 兼容、Anthropic 和 Codex 后端。

    推荐理由:原文完整说明了客户端-守护进程架构、会话持久化和多后端支持,读者可以据此评估这个 Rust 终端 Agent 是否适合复用其组件。

  17. GitHub · 灵魂体仓库74

    little-chits 开源:可接入任意 LLM 的 AI 小人文明模拟器

    GitHub 项目 little-chits 发布,这是一个可观看的人工小文明模拟:AI 小人(chits)在岛上从几乎一无所知开始,通过实验发现配方、建造房屋与工坊、互相教学、繁衍并留下记忆的世界。

    推荐理由:原文给出了完整的部署命令、双模型对战与文化实验模式,读者可以直接在本地复现这个可观测的 AI 文明模拟。

  18. GitHub · 灵魂体仓库74

    Slotstream 让 16-64 GB 内存的 Mac 跑起 125B 参数的 Qwen3.8-Flash-Next

    Carlos Galarza 发布开源引擎 Slotstream,可将 125B 参数的 Qwen3.8-Flash-Next(约 105 GB)运行在 16-64 GB 内存的 Apple Silicon Mac 上,原理是把共享权重留在内存、按需从 SSD 读取 MoE 专家到缓存。

    推荐理由:作者给出了各内存档位的实测速度区间和 0.2.23 版本的 prompt 处理对比数据,读者可以据此判断自己的 Mac 能跑到什么水平。

  19. GitHub · 灵魂体仓库73

    trillion-labs 开源 trida-stack:将自回归 LLM 转换为 block-diffusion LLM 并提供推理服务

    trillion-labs 在 GitHub 开源 trida-stack,一个把自回归 LLM 转换为 block-diffusion LLM 并提供推理服务的仓库,训练与推理两个栈相互独立。

    推荐理由:原文给出了从 AR 到 block-diffusion 的转换方法、损失设计和双后端部署细节,读者可以照着复现训练与推理。