跳到正文

内容形态

开源项目 最新动态

开源仓库与工具:人格工程、记忆系统、去对齐脚本、推理与微调工具链。

2,050 条精选近 30 天 2,043 条共收录 8,516 条

更新

精选归档 · 第 78 页

10月7日周三第 1541–1560 条
  1. GitHub · 去对齐工具与仓库65

    honchol:单 Go 二进制加 SQLite 的自托管 Honcho 兼容记忆服务器

    sitne 发布 honchol,一个轻量自托管的 Honcho v3 HTTP API 兼容记忆服务器,单个 Go 静态二进制加一个 SQLite 文件即可运行,无需 Docker 和 Postgres,现有 honcho-ai SDK 客户端改一个 base_url 即可接入。检索不用嵌入向量,采用 FTS5 候选加 LLM judge 重排的两阶段方案,派生管线异步执行并每 15 分钟跑一次;在 4 核无 GPU、约 23k 消息/44k conclusions 的库上,conclusion 查询 p50 约 18 ms,搜索 p50 约 1 s,chat 合成约 7–12 s。

    推荐理由:作者给出了 CPU-only 环境下的实测延迟和与上游部署的定性对比,可据此评估轻量自托管记忆服务器的适用场景。

  2. GitHub · 去对齐工具与仓库66

    taigrr/gojev 发布:面向 System One 决策模型的 Go 工具库

    taigrr 发布 gojev,一个用于 System One 决策模型的 Go harness,支持 TypeSafe 托管的 Jev、可自托管的开放权重 Kev 和 Cloudflare Workers AI 上的 Clef。决策模型不生成文本,而是接收状态加一组带类型的问题,在单次前向传播中返回每个问题的校准答案,原语包括 Ask(yes/no 概率)、Choice(最多 255 选项)和 Score(2-10 级评分)。gojev 在 fantasy/catwalk 协议层之上提供类型化决策助手、Kev 转换工具和 CLI;Kev 可通过 llama.cpp(yzma,无 cgo)完全在进程内运行,权重首次使用时下载并缓存,所有下载内容经 SHA-256 摘要校验。

    推荐理由:原文给出 M4 Max 上各 checkpoint 的实测延迟数据和本地进程内运行方案,可据此评估在 Agent 决策环节用小模型替代 LLM 的成本。

  3. GitHub · 去对齐工具与仓库58

    moai-adk v3.2 发布 Factory Mode 多会话编排

    modu-ai 的 moai-adk 是一个包裹 Claude Code 的验证驱动智能体编排 harness,v3.2 引入 Factory Mode:一个 leader 会话监督队列,把任务卡分给多个编号 lane 会话,每张卡在单一 lane 内走完 plan → run → sync,lane 每完成一张卡即清空上下文,使同一 token 预算覆盖更多工作。系统在系统层面禁止未经验证的完成声明,将完成声明绑定到实际运行的命令及其输出,并提供 SPEC 生命周期、worktree 隔离、goal 引擎、13 个 agent 目录、16 种编程语言支持和韩日中英四语文档。

    推荐理由:README 详细给出了 Factory Mode 的 leader/lane 分工、证据绑定验证和 token 成本实测数据,可了解如何给 Claude Code 加外部约束结构。

  4. Reddit · r/LocalLLaMA58

    pi-optchat:用记忆树实现 Pi 无限对话,免压缩上下文

    作者 /u/TheVoxcraft 发布 Pi 扩展 pi-optchat,实现了 Victor Taelin 的 OptChat 方案:不压缩上下文,而是把每条消息记录并摘要进二叉树,每轮从全新上下文开始,带 128 KB 有界记忆视图,需要时通过 zoom/date 读取原文。每个 profile 一条无限对话,支持多 profile、后台 subagent、从 Claude Code、Codex 或 ChatGPT 导入历史,以及同 profile 第二窗口作为 subagent 直连。作者称已迁移数万条消息、数百个会话。安装命令 pi install npm:pi-optchat,仓库 https://github.com/jonaslsaa/pi-optchat。

    推荐理由:作者把 Victor Taelin 的 OptChat 方案实现成 Pi 扩展,用二叉树记忆替代压缩上下文,并给出从 Claude Code 等工具迁移历史的路径。

  5. Reddit · r/LocalLLaMA62

    Claude 为 Qwen3.8-27B 与 Qwen Flash Next 优化双卡和四卡 7900XTX 部署

    /u/NoFee9147 在 Lenovo P620 四张 7900XTX(gen 4.0 x16)上对 Qwen3.8-27B 和 Qwen Flash Next 做了一系列 ROCm 与 llama server 层面的修复,表示有人感兴趣就推送到 GitHub 并分享配置。

    推荐理由:作者逐项列出 ROCm 与 llama.cpp 服务端的修复内容和前后性能数字,四卡 7900XTX 跑 Qwen3.8-27B 的结果可复现。

  6. GitHub · 灵魂体仓库57

    gmcabrita 开源本地写作工作台 writing-workshop

    gmcabrita 发布了开源项目 writing-workshop,一个纯本地运行的文字工作台:用 Notion 风格编辑器写作,运行 LLM 编辑 pass,并以侧边批注卡逐条处理修改建议,全部数据存在浏览器 IndexedDB 中。构建产物 dist/index.html 内联全部 JS、CSS 和字体,可从 file:// 直接打开;唯一网络流量是用户配置的 OpenAI 兼容 chat completions 请求,本地服务器(Ollama、LM Studio、llama.cpp、vLLM)默认支持 CORS,README 还给出自建服务器的 CORS 配置和备份、Markdown 导入导出及快捷键操作方式。

    推荐理由:这是一个数据完全留在浏览器本地的 LLM 写作工作台,架构和 CORS 配置说明具体,适合想本地跑编辑流程的读者参考。

  7. GitHub · 灵魂体仓库59

    Basic Memory 发布云服务并推出 Claude Code 插件与共享技能包

    Basic Memory 是一个让 LLM 通过 MCP 读写本地 Markdown 文件的双向记忆知识库,人机共享同一套文件并用 wikilinks 构建知识图谱。本次推出 Basic Memory Teams 共享工作区与云托管版,定价 $15.00/mo 锁定终身(7 天免费试用),本地版 AGPL-3.0 永久免费;新增语义向量搜索、可选 cross-encoder 重排、schema 系统和 FastMCP 3.0 工具注解,支持 Claude Desktop、Claude Code、Codex、Cursor、VS Code、ChatGPT 与 Obsidian。

    推荐理由:这是一个本地优先的 MCP 记忆工具,知识以 Markdown 文件双向同步,方法与配置可直接复用,适合搭建人机共享知识库。

  8. GitHub · 灵魂体仓库66

    tmux-rc 开源:用手机监控并操控 tmux 里的 AI 编码智能体

    QueryStory 在 GitHub 开源 tmux-rc(MIT 协议,当前为概念验证阶段),一个本地服务可读取 tmux 面板内容、分类智能体状态,并在手机 PWA 上展示仪表盘,支持检测智能体提问、点击作答回写终端,兼容 Codex、Claude Code、Gemini CLI、OpenCode 等。运行需 tmux、Python 3.12+、uv 及 Vertex 服务账号密钥,可用 Gemini Flash Lite 做分类或设 TMUXRC_NO_LLM=1 纯启发式运行;基于 45 个面板 3 台主机一个月的遥测,分类成本约 $5/天。守护进程本身无认证,仅绑定 127.0.0.1:18030,跨网络访问需自行前置 Tailscale 或 Cloudflare Tunnel 等认证方案。

    推荐理由:从终端读取 tmux 面板状态并转发到手机的原型工具,README 还给出一个月真实机队遥测算出的分类成本数字,可作为同类部署的成本参考。

  9. GitHub · 灵魂体仓库59

    anandhSRB 发布 zotero_llm_wiki_starter:AI agent 可维护的双层文献 wiki 套件

    anandhSRB 在 GitHub 发布 zotero_llm_wiki_starter,为 Obsidian 提供一套 AI agent 可协作维护的双层研究 wiki:sources/ 存放机器生成的单篇文献笔记,topics/ 存放每条论断都带 [[citekey]] 引用的概念页。内置 wiki-bootstrap、wiki-update、wiki-restructure、wiki-lint、wiki-find-sources 五个技能,构建流程设有人工审批门控,脚本仅依赖 Python 3.9+ 标准库,Zotero 开箱即用,也可手工添加文献。

    推荐理由:这个 starter kit 的价值在于把 AI agent 参与的文献整理拆成可审计的两层结构,分层和门控做法可以迁移到其他知识库项目。

  10. GitHub · 去对齐工具与仓库64

    speculative-statecraft 仓库实测:工作负载自训练的 EAGLE-1 草稿头在 vLLM 上对比投机解码收益

    GIO443 发布 speculative-statecraft 仓库,在 4-64 个 LLM 阵营每回合输出引导 JSON 决策的策略游戏负载上,用目标模型(Qwen2.5-1.5B-Instruct)自身输出训练 51.5M 参数的 EAGLE-1 草稿头,在 RTX 4070 Laptop 8 GB 加 vLLM 0.30.0 上与无投机和 n-gram 投机对比。

    推荐理由:原文给出按在飞上下文量判断投机解码何时划算的阈值,以及离线预测接受率的方法,可迁移到其他 vLLM 部署场景。

  11. GitHub · 去对齐工具与仓库62

    CopilotKit 开源 aimock:一个端口 mock 全套 AI 应用依赖

    CopilotKit 发布开源工具 aimock,将 AI 应用测试所需的各类依赖 mock 到一个本地端口上,零依赖、无需 API key 和网络。它覆盖 OpenAI、Claude、Gemini、Bedrock、Azure、Vertex AI、Ollama、Cohere、OpenRouter 等 11 家 provider 共 22 个 API surface,以及图像生成、TTS、转写、视频生成、embeddings、MCP 工具、A2A agents、AG-UI 事件流、向量数据库、搜索、rerank 和 moderation。

    推荐理由:原文完整列出了该 mock 工具覆盖的 11 家 provider、22 个 API surface 及录制回放、混沌测试等能力,可据此评估是否替换现有测试桩。

  12. GitHub · 去对齐工具与仓库64

    sparkdoc 开源 LFA 持续领域微调工具,微调新领域同时保留模型原有能力

    sparkdoc 在 GitHub 发布 Layerwise Function Anchoring(LFA)工具,通过估计各子模块隐状态分布 p(h) 并在微调时惩罚输出偏移,使模型适配新领域的同时不依赖旧数据回放或权重冻结来保留原有能力。工具完全本地运行于单张 CUDA 卡,无需 API key,为 Qwen3-0.6B 和 Qwen3-1.7B 提供预计算 artifact(132 MB / 265 MB,经哈希校验下载),输出可直接用 AutoModelForCausalLM.from_pretrained 加载的 Hugging Face checkpoint。

    推荐理由:原文给出完整命令流程和双轴评测数据,还用对照实验区分锚定效果与训练剂量,读者可按需复现到自己的语料。

  13. GitHub · 去对齐工具与仓库65

    Eugene Plexus v0.1.0 发布:本地 LLM 推理自托管控制面

    Eugene Plexus 发布 v0.1.0,这是一个自托管的本地 LLM 推理控制面,可安装、更新并监督 llama.cpp、vLLM 和 MLX 推理引擎,管理本地模型库,并暴露 OpenAI 兼容与 Anthropic Messages 端点。该版本以 OpenAPI 3.1 契约定义六个组件(agent、control、gateway、inference-driver、library、ui)间的接口,消费者通过固定 SHA 的 codegen 依赖契约。原文列出了真实硬件上的验证项(副本均衡、故障转移、空闲卸载、工具调用、双机多主机部署等)与已知缺陷,包括登录限流器可被请求头驱动的预认证缺陷、AMD/Intel GPU 的 Windows 机器被误判为无 GPU、一键运行路径的量化适配数值可能偏小等。

    推荐理由:原文给出实测硬件验证清单、已知缺陷和未验证项,读者可据此判断这个本地推理控制面当前能做什么、不能做什么。

  14. GitHub · 去对齐工具与仓库62

    cachly 发布 MCP 记忆服务器,为 AI 编程助手提供跨会话团队共享记忆

    cachly 开源其 MCP 记忆服务器 cachly-dev/cachly-mcp,让 Claude、Cursor、Copilot、Windsurf、Cline、Zed 等 AI 编程工具跨会话记住代码库知识,并支持团队共享。工具从 git 提交和 CI 结果自动提取经验教训,提供 causal_trace 根因追踪、brain_who_knows 专家定位等功能,共 123 个 MCP 工具(默认目录展示 27 个);官方给出外部标注语料上 78.6% Precision@1 的召回指标,CI 门槛设为 71.0%。数据存于欧盟服务器,符合 GDPR,支持自托管和 BYOK,免费层永久可用,付费版 €19/mo 起。

    推荐理由:原文给出 78.6% Precision@1 的召回指标和 CI 门槛,并与 Claude 内置记忆及 mem0 等工具逐项对比。

  15. GitHub · 去对齐工具与仓库65

    hal0 v1.3.0 发布:把 Linux 主机变成 OpenAI 兼容的私有推理一体机

    Hal0ai 发布 hal0 v1.3.0,通过一条 curl 安装命令把 Linux 主机(首选 Ryzen AI Max+ 395 加 128 GB 统一内存)变成 OpenAI 兼容的私有推理设备,在 :8080/v1 单一接口上提供 chat、completions、embeddings、rerank、转写、语音和图像生成。每个推理负载运行在独立的 podman 容器内,由 hal0-api 作为唯一控制面管理槽位状态机与请求分发;v1.3.0 为次版本更新,带来一项破坏性变更:配置了 admin key 且绑定非 loopback 地址时,机外调用者访问 ADMIN 级路由必须携带该 key。

    推荐理由:原文给出安装流程、槽位架构和参考机上的实测吞吐数据,读者可以据此评估这套私有推理一体机方案是否适合自己的硬件。

  16. GitHub · 去对齐工具与仓库75

    schemagate 开源:text-to-SQL agent 先按调用者权限过滤 schema 再进提示词

    作者 Ashish Sinha 发布 schemagate v1.0(Apache-2.0),一个在模型看到 schema 之前就按调用者身份过滤的 text-to-SQL 工具,被限制的表直接不进提示词而非排名靠后,避免 RLS 过滤后用户把「无记录」误当成数据不存在。支持 LangChain、MCP 和任意 SQL agent,覆盖 Postgres、Oracle、MySQL、SQL Server 和 SQLite,仅依赖 SQLAlchemy、无需 API key。

    推荐理由:作者给出了 Spider、BIRD 等公开基准的实测数字和 token 节省对比,读者可以据此评估这个先按权限过滤 schema 的做法是否值得引入。

  17. GitHub · 灵魂体仓库63

    开源 Rust Agent 框架 MEDHA 发布,主打验证优先的工具执行与沙箱隔离

    MEDHA 在 GitHub 开源,是一个验证优先的通用 Agent harness,单一 Rust 二进制可接本地 Ollama、vLLM 或 Gemini 等任意模型。每次工具调用走验证、审批、执行的内核循环,默认启用 macOS Seatbelt 和 Linux Landlock 沙箱,附带 hash 链事件日志、回滚、子 Agent worktree 隔离和 medha gate 行为评测。项目处于 Pre-1.0 阶段,提供桌面应用、TUI 和无头模式,Apache-2.0 许可。

    推荐理由:项目把每步工具调用都过验证和审批,并给沙箱、事件日志和回滚做了一套完整实现,适合关心 Agent 安全执行机制的人参考。

  18. GitHub · 灵魂体仓库66

    ethagent 发布:用 Ethereum 钱包持有可携带的 AI 智能体身份、记忆与技能

    baairon/ethagent 是一个开源工具,通过 Ethereum 钱包持有的 ERC-8004 代币承载 AI 智能体的灵魂(SOUL.md)、记忆(MEMORY.md)和技能,加密备份到 IPFS,可在任何机器上恢复,只有用户的钱包能解密。日常使用免费,仅创建智能体和保存快照时上链;支持 ENS 命名、操作员托管模式、本地历史与回滚,并通过 `npx ethagent` 快速开始。

    推荐理由:原文完整给出了基于 ERC-8004 与 IPFS 的实现架构和命令体系,读者可以了解如何让 AI 智能体的身份、记忆和技能跨工具可迁移。

  19. GitHub · 灵魂体仓库61

    Agent Switchboard 发布:让 Claude Code、Codex、Gemini 与 Antigravity 本地互调协作

    FutureisinPast 在 GitHub 发布 Agent Switchboard,一个本地 MCP 桥接工具,让 Claude Code、Codex、Gemini、Antigravity 和 VS Code 相互派发任务、互审工作、跨模型辩论并共享压缩后的项目上下文,无需 API key、云服务或额外计费。状态存于本地 SQLite(~/.agent-broker),复用已登录订阅的 CLI 与 IDE 通道;Antigravity 是唯一支持结构化应用内往返的表面,Claude/Codex 通过 CLI 或收件箱文件投递。内置 doctor 诊断逐助手报告实际可用投递路径,当前 v1.0.57 新增 code_graph 字面量搜索、上下文建议与热重载适配器。

    推荐理由:项目把多款 AI 编程助手的互操作机制和各投递路径的真实可达程度讲得诚实具体,可作为本地多智能体协作的部署参考。

  20. GitHub · 灵魂体仓库62

    Ghostlink 开源:跨机器零配置分布式 LLM 推理工具

    rwilliamspbg-ops 在 GitHub 发布 Ghostlink(v2.3.0,MIT 协议),基于 llama.cpp 的 ggml-rpc 将局域网内异构 CPU/GPU/NPU 机器组成零配置分布式推理集群,并提供 OpenAI 兼容的 /v1/chat/completions API。跨机器 VRAM 容量拆分已实测可加载单机放不下的 30B 级 MoE 模型,但项目自述网络拆分下的高吞吐和多节点可用速度仍未证明;预编译二进制目前仅支持 x86_64。

    推荐理由:项目给出了多节点 LAN 分布式推理的实测吞吐和可复现命令,读者可以据此评估这套零配置集群方案在自己硬件上的可行性。