跳到正文

内容形态

开源项目 最新动态

开源仓库与工具:人格工程、记忆系统、去对齐脚本、推理与微调工具链。

2,050 条精选近 30 天 2,043 条共收录 8,516 条

更新

精选归档 · 第 29 页

10月9日周五第 561–580 条
  1. GitHub · 灵魂体仓库56

    开源协作层工具 Artifactize 发布:按 Artifact 拆分项目并复用评审结果

    作者在 GitHub 发布开源工具 Artifactize(Apache 2.0,支持 Linux 和 WSL 2),把项目拆分为带各自 evals 的 Artifact,包括运行命令、调用 OpenAI 或 Anthropic 的 Agent 评审和人工签核。指纹不变时 verify 复用 GREEN/RED 结果,并通过一个 artifactize 服务器在队友 checkout 和 CI 间共享评审,status 可预测将执行或复用哪些评审。

    推荐理由:原文讲清了按 Artifact 拆分评审并用指纹复用结果的做法,做多人机协作开发时可以借鉴这套降低重复评审成本的机制。

  2. GitHub · 去对齐工具与仓库66

    GD4AI 发布 Obsidian 插件 Karpathy LLM Wiki,把笔记变成可查询知识库

    GD4AI 在 GitHub 发布 Obsidian 插件 obsidian-llm-wiki,将 Karpathy 的 LLM Wiki 想法做成一键插件,用 LLM 从笔记中提取实体和概念生成交联 wiki 页面,不改写原始笔记。检索不用向量嵌入,而是基于 [[wiki-link]] 图的 5 级级联加 Monte Carlo Personalized PageRank,项目自有语料上 PPR @5 为 27.1% 对纯 kNN 基线 24.1%;插件支持 16+ 家 LLM 提供商、11 种界面与输出语言、v1.27.0 起内置 MinerU 后端支持 PDF、图片和 Office 摄取,可经 Ollama 或 LM Studio 完全本地运行,无后端无追踪。

    推荐理由:原文详细说明了用 Personalized PageRank 走 wiki-link 图替代向量 RAG 的取舍与实测数字,可作为个人知识库工具选型参考。

  3. GitHub · 去对齐工具与仓库59

    PocketLLM 发布 v0.3.0:在 Android 上本地运行 GGUF 模型并提供 OpenAI 兼容 API

    PocketLLM 项目通过 JNI/NDK 调用 llama.cpp 并支持 Vulkan GPU 卸载,在 Android 上本地运行 GGUF 模型,暴露 OpenAI 兼容 API 供本机和局域网客户端使用。v0.3.0 新增基于 GBNF 语法约束的 Agent 工具调用,保证小模型输出的工具调用格式合法,并提供共享同一核心引擎的桌面 JVM CLI(chat/serve/agent)。项目还内置 Hugging Face 模型下载、断点续传、聊天界面与 API key 管理;已知限制包括单模型串行推理、当前仅打包 arm64-v8a,且小于 500M 的模型参数内容质量较差。

    推荐理由:开源项目直接在 Android 上用 llama.cpp 跑 GGUF 并提供 OpenAI 兼容 API,还给出采样时 GBNF 约束小模型工具调用格式的做法。

  4. GitHub · 去对齐工具与仓库67

    Apo 开源 Agent harness 测试与工程化系统

    samikuikka 在 GitHub 发布了 Apo,一个针对 Agent harness 的测试与工程化系统,处于 alpha 阶段。专家将系统能力写成可执行的能力规格,Apo 对真实 Agent 运行并返回含测试明细、trace 和交付物的 PASS/FAIL 判定,编码 Agent 可据此迭代修改实现直至通过。支持单机自托管部署,任务由确定性轨迹检查、客观事实检查和 LLM judge 三层测试组成,MIT 许可。

    推荐理由:原文完整给出了任务定义、三层测试结构和自部署命令,可以当作搭建 Agent 持续验证闭环的参考做法。

  5. GitHub · 去对齐工具与仓库60

    brolm:bro 生态的纯 C++20 语言与文本模型推理库

    wlejon 在 GitHub 发布 brolm,一个纯 C++20 的语言与文本模型推理库,是 brodiffusion 的文本侧对应物,基于 brotensor 和 bromath 构建。它支持编码器嵌入与解码器生成,内置 CLIP、T5、Qwen3、Qwen3.5-VL、Qwen3-VL、Mistral 3.1、Gemma-2、Whisper、NLLB-200 等模型组件,后端覆盖 CPU(FP32)、CUDA、Metal 和 Vulkan(FP16/BF16),可直接加载 safetensors 与 GGUF 权重(量化权重需 GPU 后端)。MIT 协议,Pre-1.0 版本,CI 只覆盖 CPU 构建且自包含测试通过,绿色构建不表示模型输出正确。

    推荐理由:README 讲清了纯 C++20 推理库的组件构成、支持的模型族与 GGUF 量化加载方式,并说明 CI 绿色并不代表模型输出正确。

  6. GitHub · 去对齐工具与仓库61

    Forecall 开源 forecall-cli:为 MCP server 工具描述打分的 linter

    Forecall 在 GitHub 开源 forecall-cli,包含给 MCP server 工具描述质量打分的 linter 和本地运行命令,可 `npx forecall lint tools.` 使用并连接 Forecall Failure KB。每个工具按六个部分满分 100 评分,覆盖用途、使用时机、参数、返回值、约束副作用和示例,还会检查工具过多、描述雷同等 server 级问题;数据不离开本机,支持 --、--fail-under、--min-tool-score、--fail-on 等 CI 选项。示例中 description 只有 2 个词的 search 工具得 6 分,描述完整的 get_forecast 得 79 分。

    推荐理由:给出了 MCP 工具描述的六维评分规则和本地 lint 命令,写 Agent 工具的开发者可以直接对照检查自己的 tools 描述。

  7. Reddit · r/LocalLLaMA62

    LoRA over GGUF:在 40G 显存中训练 Qwen3.8-Flash-Next

    作者更新其 LoRA over GGUF 系列,现可在 40 GiB 显存内无 CPU offloading 地训练 Qwen3.8-Flash-Next(125B-A6B + 51B engram),engram 置于磁盘不拖慢训练。在 Strix Halo 上以 2048 上下文块达到 9.5 s/it(200 token/s),距已实现的 >1600 token/s PP 还有优化空间;transformers 5.18 起已合并对现代 GGUF 的初步支持,作者还预告 torch-ggml-ops 仓库中的 GGTensile 在 MMQ 内核上做汇编级优化,多数场景已快于 HIP。代码见 https://github.com/woct0rdho/transformers5-qwen3.5-recipe

    推荐理由:作者给出了在 40 GiB 显存内训练 Qwen3.8-Flash-Next 的方法与实测速度,读者可复现这套 LoRA over GGUF 训练流程。

  8. GitHub · 去对齐工具与仓库67

    decodebench 仓库发布:在 vLLM 与 B200 上实测 NVFP4 对比 MXFP4 解码性能

    cezarc1 在 GitHub 发布 decodebench,基准测试真实推理栈上的 LLM 解码速度,核心结论是 NVFP4 在小批次下更快。在 vLLM v0.31.0、1× NVIDIA B200、Qwen3-32B(W4A4)上,batch 1/8/32 时 NVFP4 解码吞吐比 MXFP4 高 7.1%/7.5%/4.2%,batch 64–512 时两者差距在 ±2% 以内;大 GEMM 场景 NVFP4 高出约 9% TFLOPS。实验采用预注册假设与判定规则,固定 vLLM、FlashInfer 0.7.0.post1、PyTorch 2.13.0 等版本,并公开原始数据、RESULTS.md 与 fp4bench 工具供复现。

    推荐理由:这个基准用预注册协议在真实 vLLM 栈上对比 NVFP4 与 MXFP4 的解码性能,并公开全部原始数据与复现流程,方法设计值得借鉴。

  9. GitHub · 灵魂体仓库61

    aigc-game-framework:开源游戏 AI 中间层框架发布

    作者在 GitHub 开源了用 Python 编写的游戏 AI 中间层框架 aigc-game-framework,核心约束是 AI 不能侵入游戏主循环,只能经 MainController 提议并由确定性规则层裁决,指令需过 AST 校验、白名单和 mini-CEL 规则。框架包含 30 个核心模块、33 个工具规格,附带 24 个测试文件共 223 个用例可复现;模型推理依赖 Ollama / vLLM 等本地服务,仓库按 Windows 环境编写且无端到端真实游戏测试。

    推荐理由:README 交代了 AI 不侵入游戏主循环的架构约束、mini-CEL 规则裁决和 223 个可复现测试,读者可按文档自行验证这套受控接法。

  10. GitHub · 灵魂体仓库65

    grokbot 开源:跑在 Grok 订阅上的轻量 Telegram 群聊助手

    EntropyEnthalpy-SYS 在 GitHub 开源了 grokbot,一个面向小群组和私聊的轻量 Telegram 助手,登录 Grok(SuperGrok / X Premium)订阅运行,可选 ChatGPT Plus/Pro 与 Claude Pro/Max 作为后备,不依赖按 token 计费的 API key。它支持被 @ 提及才应答、网页和 X 搜索、链接卡片、语音转写、翻译、图像生成、提醒与投票,群组有 strict/normal 两种隐私模式,全部通过 /admin 面板管理。代码为 Node 24 上的纯 TypeScript,使用 grammY 与 pi,数据存于单个 SQLite 文件,附部署脚本与文档。

    推荐理由:作者开源了一个跑在 AI 订阅而非按 token 计费 API 上的 Telegram 助手,配置、权限和隐私模式都写得较完整,可作部署参考。

  11. GitHub · 灵魂体仓库56

    Aqueduct 数据开发 Agent 框架开源,需求文档一键生成 15 项标准化交付物

    JohnnyQ-commits 在 GitHub 开源了数据工程自动化 Agent 框架 Aqueduct,输入需求文档可产出 DDL、ETL SQL、DQC 测试用例、字段级血缘等 15 个标准化交付文件。框架采用 7 层架构(MCP/LLM/Tools/Skills/Engine/Memory/Config),通过 StateGraph 编排 DAG 工作流,内置审查修复循环、交互式问题澄清和 JSON 本体知识库,支持经 MCP 协议对接任意数据平台,可嵌入 Claude Code 或 LangChain,提供 dev、review、change 三种模式,MIT 协议开源。

    推荐理由:原文完整给出了分层架构、工作流和交付物清单,读者可以对照评估这套数据开发自动化框架是否可迁移到自己的流水线。

  12. GitHub · 去对齐工具与仓库59

    ClawPanel 开源发布多引擎 AI Agent 可视化管理面板

    武汉晴辰天下开源 ClawPanel,这是一个支持 OpenClaw、Hermes Agent、DeepSeek Harness 等引擎的可视化管理面板,采用 Rust + Tauri v2 桌面端与零 GUI 依赖的 Web 版,AGPL-3.0 协议。内置 AI 助手提供 4 种操作模式和 8 大工具,可一键排障、生成 Issue 和修复 PR,并支持飞书、钉钉、Telegram、Discord、QQ 等消息渠道接入;Web 版兼容 ARM64 开发板,提供一键部署脚本与 Docker 镜像,地址 https://github.com/qingchencloud/clawpanel。

    推荐理由:项目 README 给出了从桌面到 ARM64 开发板和 Docker 的完整部署与升级路径,读者可以照此评估这套多引擎 Agent 管理面板是否适配自己的环境。

  13. GitHub · 灵魂体仓库61

    MEMENTO 开源:让 AI 助手跨数百个会话保持项目记忆与工作规则的仓库框架

    jblanch888 在 GitHub 发布 MEMENTO,一个用 MIT 许可开源的框架,通过保存在仓库中的笔记与规则让 AI 助手在数月、数百个会话中延续项目工作。框架包含记忆假体(四层项目笔记与证据存档)和操作协议(审批、证据、分步变更、可证伪治理),源自 2025 年 6 月起在三个生产项目中的实际使用,仓库同时保留 archive/canon-2025/ 的 2025 年版本。

    推荐理由:作者把跨会话记忆拆成笔记四层与工作规则两部分,并给出采用路径和真实项目的演化史,方法可直接迁移到自己的 Agent 项目。

  14. GitHub · 去对齐工具与仓库73

    Golem 开源:在单仓库内自写并沙箱验证 Python 工具的 Agent

    GitHub 项目 ofou/golem 发布,是一个在单个仓库内工作的 Agent,任务缺能力时会自行编写 Python 工具、在 Docker 沙箱中盲测验证后安装,后续会话直接复用已装工具。权限与花费由 authority. 固定并在每次运行前后打印 sha256,默认模型为 deepseek/deepseek-v4.1-flash,经 OpenRouter 计费,单任务花费上限 $0.20,支持 GitHub Actions 复用工作流,采用 MIT 许可证。

    推荐理由:这个自建工具型 Agent 用盲测、桩检查和只读哈希许可约束生成代码,其沙箱与权限设计可作工程参考。

  15. GitHub · 灵魂体仓库58

    GoldenRetriever 开源:基于 RAG 的个人知识库项目

    开发者 Kam Lau 在 GitHub 开源 GoldenRetriever,一个带检索增强对话的个人知识库,支持从网页、URL、PDF 和 iOS Share Sheet 收集文章、笔记与书签,回答附带内联引用并可点击查看原文段落。技术栈为 Next.js 15、Postgres 17 + pgvector 和 Vercel AI Gateway,检索采用 pgvector 语义搜索与全文搜索经 Reciprocal Rank Fusion 合并后再由 LLM 重排,并包含防 SSRF 的 URL 校验、多租户数据模型和约 230 个测试,MIT 协议发布。

    推荐理由:原文完整给出了摄取管线、混合检索和防SSRF等实现细节,读者可以参考这套个人知识库RAG的工程做法。

  16. GitHub · 去对齐工具与仓库62

    Vantio 开源 Optics 免费观测层,本地记录 AI Agent 出站调用元数据

    Vantio 发布开源仓库 vantio-open-core,提供本地优先的 AI Agent 出站观测工具 Optics,通过 npm install -g @vantio/cli 与 vantio run node agent.js 即可接入,Python 需 vantio-agent-sdk 的 @shield 包装。工具拦截 Node 的 fetch 等出站调用,只记录目的地、进程、字节数和时序,不记录提示词、补全或个人信息;支持 macOS、Linux 和 Windows(WSL)。文档同时说明可被原生 socket、未包装子进程或其他语言运行时绕过,浏览器路径不在覆盖内,策略执行与主机级保护需付费的 Phantom Engine。

    推荐理由:README 明确列出了可拦截的运行时与可绕过的边界,读者可以据此评估这个本地 Agent 出站观测工具的真实覆盖范围。

  17. GitHub · 灵魂体仓库58

    pingkui 开源 n8n-human-review-pipeline:LLM 起草内容经确定性检查与人工审批后才发布

    pingkui 在 GitHub 发布 n8n-human-review-pipeline,一个 LLM 起草社交帖子的 n8n 工作流,草稿经确定性代码检查后送人工审核,须明确批准才发布,未识别或超时(24 小时)的回答一律不算批准,修改最多三轮,每次运行生成审计记录。检查含长度、禁用词和数字须出现在请求方提供的事实中;配套支持按客户配置语气与限制、本地 docker compose 部署审核页,12/12 项测试在真实 n8n 2.42.5 容器中通过,另用 Kimi kimi-k2.6 完成一次真实请求验证。项目明确说明 resume URL 无鉴权、检查不做事实判断等限制,MIT 许可。

    推荐理由:原文给出了人审环节的具体实现和 12 项测试覆盖,读者可以把这套确定性检查加人工审批的流程迁移到自己的内容管线里。

  18. GitHub · 去对齐工具与仓库56

    HeliosLM 开源 DeepSeek-V3 级架构的 CPU 可运行 PyTorch 参考实现与 RLCD 决策层论文草稿

    作者 Chien-Hsin Lin 在 GitHub 开源 HeliosLM,一个从零实现的 PyTorch 参考实现,涵盖 MLA 注意力、sigmoid 门控 MoE、混合线性注意力、FP8 训练、DualPipe、投机解码与 vLLM 风格推理引擎,全部可在 CPU 上运行并有 115+ 单元测试和位级等价校验。仓库同时是 RLCD 决策层范式的开源参考,在 8.5M/360M/Qwen3-0.6B 三个规模上测量错误答案上的过度自信(0.94 到约 1.0),在 7,193 条实例的 RLCDAlignBench 上开源读出器达到 0.726 中位 AUROC,并在 11/41 项基准上超过商业 Jev 检测器的零样本成绩,配套论文草稿与版本化基准数据。

    推荐理由:这是一个可读可改的 DeepSeek-V3 级架构 CPU 参考实现,并附带 RLCD 决策层的开源校准审计数据,适合想拆解模型内部结构的人。

  19. GitHub · 灵魂体仓库65

    mcptoon 发布:用名称索引把 255 个 MCP 工具描述压到 581 tokens

    开源工具 mcptoon(activeing123/mcptoon)发布,通过只把工具名索引放入上下文、按需用 inspect 取完整 schema,把 255 个工具的 71,929 tokens 压到 581 tokens(-99.2%);技能目录从 926,232 tokens 变为 39 驻留加每次查询 501 tokens。工具为 363KB、零依赖纯 Python CLI,支持 103 个客户端(42 个 CLI 直调、61 个经 mcptoon serve),可从 Smithery 和官方注册表搜索 17,000+ MCP 服务器,含破坏性调用拦截、提示词注入扫描和凭据泄漏检测,全部本地运行、无遥测,Apache 2.0 协议。

    推荐理由:README给出了三处节省的分开测量和可复现的基准方法,读者可以自己跑 bench 验证节省幅度是否成立。

  20. GitHub · 去对齐工具与仓库57

    Agent 组合库 Fascicle 开源:用 22 个原语把 LLM 调用、工具调用和普通函数组成 Step 流

    robmclarty 发布开源 Agent 编排库 Fascicle(Apache 2.0),把 LLM 调用、工具调用和普通函数统一为 Step<i, o>,提供 sequence、parallel、branch、retry、loop、ensemble_step、checkpoint 等 22 个组合原语。

    推荐理由:README 清楚列出了 22 个组合原语、八家 provider 接入和可运行的零密钥示例,读者能据此评估这个 Agent 组合库是否合用。