跳到正文

内容形态

开源项目 最新动态

开源仓库与工具:人格工程、记忆系统、去对齐脚本、推理与微调工具链。

2,050 条精选近 30 天 2,043 条共收录 8,517 条

更新

精选归档 · 第 9 页

10月21日周三第 161–180 条
  1. GitHub · 去对齐工具与仓库59

    HeaderKit 开源:C/C++ 头文件转多语言绑定与 LLM 上下文的工具包

    axiomantic 在 GitHub 发布开源工具 HeaderKit(MIT 许可),将 C/C++ 头文件解析为统一 IR,再生成 Python(ctypes、CFFI、Cython)、Mojo、Nim、LuaJIT 绑定及 C-ABI shim。它可脚手架带测试的完整包、检测破坏性 API diff、用 Tree-sitter 实现零依赖解析、通过 PEP 517 构建后端和缓存让下游 pip install 无需 libclang,并用 prompt writer 把头文件压缩为 token 优化的 LLM 上下文摘要。支持约 50 行 Python 编写自定义 writer,需 Python 3.11+,运行时零依赖。

    推荐理由:作者给出从 C/C++ 头文件到多语言绑定、包脚手架和 LLM 上下文压缩的完整命令示例,可直接照用。

  2. GitHub · 灵魂体仓库62

    Provael 发布:仿真中对开源 VLA 机器人策略做红队评测的 CLI 工具

    Provael 发布了一个 Python CLI,在仿真环境中对开源 VLA 机器人策略做红队测试,报告对抗攻击成功率(ASR)并附良性对照、95% 区间和证据标签,Apache-2.0 开源、可经 pip 安装并接入 CI。CPU stub 确定性运行 20 秒内产出报告;实测配置 SmolVLA × LIBERO-Object 在 roleplay 指令下 42/50 离开 keep-out 包络(84%),良性基线 1/50,McNemar p = 9.1e-13,对照显示这是长命令下的脆弱性而非攻击者控制;π0.5 有初步实测,其余注册适配器为脚手架。工具仅限仿真与防御用途,输出 report.json、SARIF、OSCAL、CycloneDX ML-BOM 和签名证明等证据包。

    推荐理由:README 给出对抗攻击成功率与良性对照并列的实测数据,可看到纯仿真红队 VLA 策略的完整证据链做法。

  3. GitHub · 去对齐工具与仓库71

    AgentVFS 发布 VFS-Bench 1.0:虚拟文件系统接口比 MCP 平均省 52% token

    AgentVFS 团队发布 VFS-Bench 1.0 基准,200 个任务(100 个来自 MCP-Atlas、100 个来自 Toolathlon)覆盖 46 个外部服务,每个任务分别通过 MCP 工具调用和虚拟文件系统 AgentVFS 各运行一次,任务文本、数据和评分器完全一致。结果显示虚拟文件系统平均减少 52% token,pass@1 从 77.6% 升至 81.6%,其中 Claude Opus 5.5 在 MCP-Atlas 上 token 减少 88%。基准用本地 fake 服务复现 API,每次运行前重置并重新播种数据,完整榜单和轨迹见 agentvfs.org,仓库地址 https://github.com/agentvfs/vfs-bench。

    推荐理由:同一任务在 MCP 与虚拟文件系统两种接口下各跑一遍并保留原始评分器,token 与 pass@1 的对比数据齐全,可复现。

  4. GitHub · 灵魂体仓库65

    austin1997 开源浏览器端 LLM 推理测速工具 llm-speedtest

    austin1997 在 GitHub 发布浏览器测速网站 llm-speedtest,支持 OpenAI 兼容 Chat Completions 与 Ollama 原生接口,可对语言模型、文生图与文生视频部署做 A/B 并发测速,支持 1–16 并发、流式输出、思考模式与多语言界面。所有推理请求从浏览器直连端点,可部署到 Cloudflare Workers 并将汇总结果写入 D1,指标覆盖 TTFT、实时吞吐、服务端 decode/prefill 等,本地运行需 Node.js 24。

    推荐理由:作者开源了一个浏览器直连端点的推理测速工具,指标口径写得很细,部署自建模型想对比性能的读者可以拿来直接用。

  5. GitHub · 灵魂体仓库59

    search-agent-harness 开源:面向人才搜索的自适应 Search Agent 框架

    12wa2 在 GitHub 开源 search-agent-harness,一个人才搜索场景的自适应 Search Agent,按需求难度路由为 3 阶段直连、5 阶段轻量 Agent 或最多 8 阶段的反思循环,由状态机管理迭代、路径、LLM 调用、Token 和墙钟五类预算,支持零 API Key 演示与 Elasticsearch 8。评测显示反思循环将真实 LLM A/B 的池召回从 0.735 提到 0.937,但交付 Recall@5 的 bootstrap 区间跨过 0,且模型调用与 Token 消耗约为单趟基线的 3 倍、p50 延迟约 2.8 倍;检索通过 SearchTool 协议解耦,含 484 项测试,MIT 协议。

    推荐理由:项目自带离线消融和真实 LLM A/B 数据,甚至给出反思循环成本为单趟 3 倍、交付提升不稳定的负面结果,工程边界交代得比较诚实。

  6. GitHub · 灵魂体仓库66

    overbrainer 开源:命令行把大模型蒸馏成小模型并用 Axolotl 微调

    GitHub 开源工具 overbrainer v0.9.0 支持从命令行把大的父模型蒸馏成更小的开放权重子模型:向父模型生成问题并收集带推理的回答,用 Axolotl 在本地、SSH 机器或 Runpod 上做 LoRA 微调,再导出量化 GGUF 和 Ollama Modelfile。overbrainer compare 在评测集上对比子模型与父模型的胜率、延迟和每千次请求成本,并提供六视图终端 UI、Prometheus 指标和可安装到 Claude Code 的 agent skill。项目处于早期开发阶段,1.0 前小版本可能有破坏性变更。

    推荐理由:从生成数据集到用 Axolotl 微调再到导出 GGUF 全流程一条命令走完,还用胜负率和成本对比衡量孩子与父模型的差距。

  7. GitHub · 去对齐工具与仓库62

    matrixarkai 开源 Rust 编写的分布式时间感知服务引擎 TemporalStore

    matrixarkai 在 GitHub 发布 Apache-2.0 协议的 TemporalStore,一个 Rust 编写的分布式时间感知服务引擎,用单一时间索引统一上下文管理、长序列、聚合特征、频次控制与控制状态五类读路径,不依赖向量数据库。它提供 Redis 兼容的 RESP 接口,单节点一条 Docker 命令即可本地运行,可经 MatrixRaft 共识扩展到共享存储集群;Python 上下文工具与 MCP 服务器在 matrixark 仓库,基准与文档见 temporalstore.ai/benchmarks.html。

    推荐理由:原文给出架构、部署命令和基准文档入口,读者可据此评估用一个时间感知引擎替代向量库加特征库加计数层的组合方案。

  8. GitHub · 去对齐工具与仓库63

    thinking-framework-skills 发布:63 个证据分级、可被智能体执行的思维方法技能库

    product-on-purpose 发布 thinking-framework-skills v0.18.6,一个包含 63 个思维框架的技能库,覆盖 12 个认知操作族,外加 4 个元技能工具和 9 个配方,每个技能输出风险登记表、选项矩阵等具体产物而非文字建议。每个方法按 S/M/P/V/A/C/X 七档证据等级标注,其中 11 个技能达到 S 或 S-M 档,SWOT、Five Whys、ACH 等 7 个知名但证据薄弱的方法被列为 contested lens 并以警示优先方式提供;库中明确标注几乎所有研究基于人类被试、尚未在 AI 智能体上验证。

    推荐理由:这个技能库把每个思维方法都标了 S 到 X 七档证据等级,并明确区分人类研究证据与 AI 智能体上的迁移效果,方便按证据强度选方法。

  9. GitHub · 去对齐工具与仓库62

    aulos:本地运行的开源 AI 编程 Agent 完整开源

    Steve-pixel-cpu 开源了本地运行的 AI 编程 Agent aulos,用自然语言下任务后自动读文件、改代码、跑命令直到完成,提供终端和 Tauri 2 桌面端。基于 MiniCC 扩展(行级对比 92% 重写/新增),38k 行 Python 内核、1070+ 测试用例,内置三级权限体系、MicroCompact/Session Memory/Full Compact 三层压缩、MCP 接入、多 Agent 并行、6 类评测任务与跨会话记忆,兼容任何 Anthropic/OpenAI 接口的模型服务。项目地址 https://github.com/Steve-pixel-cpu/aulos。

    推荐理由:开源的本地编程 Agent 完整给出三层压缩、权限分级和评测框架的实现细节,可作自建 Agent 的架构参考。

  10. GitHub · 灵魂体仓库56

    BlackOps 仓库:DGX Spark 上完全本地运行的离线自修复 IT 运维 Agent

    Vanisherzd/BlackOps 仓库公开了一个在 DGX Spark(GB10)上完全本地运行的 IT 运维 Agent,目标部署于 Jetson AGX Thor,断网也能自主诊断修复。2026-10-20 起推理引擎从 TensorRT-LLM 改为 vLLM,跑 Nemotron-3.5-Bolt-74B-A9B;NemoClaw 路径 5 张舞台卡各跑 3 次 15/15 自主修复,repo 内 host 循环 9 案 26/27。仓库包含 NeMo Guardrails 安全 rail、审核代理、错误注入案例 28 个、离线知识库(1,644 历史案例)与详细踩坑清单,legacy 路线为 TRT-LLM + Nemotron-3-Nano 与 vLLM 0.29 + Qwen3.6-35B。

    推荐理由:仓库给出完整的本地部署架构、错误注入 drill 数据和踩坑清单,读者可以照着在 DGX Spark 或 Jetson 上复现离线自修复运维智能体。

  11. arXiv · cs.AI54

    Stratified Sparse Attention 论文提出确定性检索结合分数引导采样以缩小极端稀疏下与稠密注意力的差距

    Sahil Joshi 等在 arXiv 发布论文,提出 Stratified Sparse Attention(SSA),将确定性检索与分数引导采样结合以缩小稀疏注意力与稠密注意力在极端稀疏下的差距。在 RULER、LongBench、LOFT、AIME 及 3B 至 27B 五个模型上,SSA 均优于基线;RULER-HARD 用 Ministral-3-8B 在 50 倍注意力稀疏下,32K 和 128K 准确率从 81.8% 提至 84.2%、从 63.8% 提至 69.3%,分别恢复稠密注意力性能的 94% 和 85%。优化 CUDA 内核后,1M 上下文解码速度相对 FlashInfer 最高加速 2.96 倍,代码已开源。

    推荐理由:论文给出 SSA 在 RULER 等基准和 50 倍稀疏度下的精度与解码加速数据,方法可复用,代码已开源。

  12. arXiv · cs.AI52

    35B MoE 智能体模型 Sage-A1.5 发布技术报告

    Wenjie Lou 等人发布 Sage-A1.5 技术报告,这是一个基于 A1 的 35B Mixture-of-Experts 智能体模型,通过自适应能力组合推进长程问题求解。报告提出三项改进:通过任务委派与子智能体隔离上下文并行协作的智能体编排,包含进度检查、证据验证与反思式策略修订的智能体验证,以及超越回答预设问题的开放科学探索能力;模型 checkpoints 已开放。

    推荐理由:报告说明了子智能体并行协作、验证与开放科学探索三项改进的设计,适合关注长程智能体任务执行方法的读者。

  13. arXiv · cs.CL55

    七开源 RL 训练框架纳入论文追踪:1598 篇方法论文中仅 37 篇被纳入

    论文追踪七个开源 RL 后训练框架的提交历史,并关联 2025 年 1 月至 2026 年 6 月的 6939 篇 arXiv 论文。在 1598 篇提出通用 RL 训练方法的论文中,只有 37 篇被至少一个框架纳入;每季度队列在 180 天内纳入数量稳定在 5 到 7 篇,而队列规模从 72 篇增至 386 篇。被纳入的论文更常训练 30B 及以上参数的策略(41% 对 10%),更常修改现有损失中的系数、clip、mask 或权重(29% 对 9%);两个差距在剔除框架维护公司自身论文后依然成立,而代码开源比例在两组中相同。超过九成未被纳入的方法在框架 issues 中没有任何提及或引用。数据以追踪器形式发布,链接训练失败与框架实现并列出各框架贡献规则。

    推荐理由:论文用提交历史量化了 RL 论文进入开源训练框架的真实比例,数据可帮助读者评估方法复现和框架选型的落差。

  14. arXiv · cs.CL52

    BitMTP 提出面向超低比特大语言模型的多 token 预测加速框架

    BitMTP 提出算法与系统协同设计框架,在超低比特 LLM 骨干上实现高效多 token 预测(MTP),已被 NeurIPS 2026 接收。该框架用联合 next-token 与 MTP 目标让单一模型同时具备自回归生成与 block-causal drafting,并提供置信度、投机与混合三种解码方式。在 NVIDIA H20 上混合解码于 BitNet b1.58-2B 取得五任务平均 2.2x 加速,1.7B-4B Bonsai 模型为 2.1-2.4x,RTX 3090 与 Jetson Orin 上分别达最高 2.0x 和 MBPP+ 上 3.3x,代码已开源。

    推荐理由:论文把多 token 预测与超低比特量化结合,给出跨 GPU 的实测加速比,方法与系统设计都可参考。

  15. arXiv · cs.CL53

    Lafa 论文提出 8B 连续流语言模型,吞吐达 AR 模型 2.54x

    Lafa 是一个扩到 8B 参数的连续流语言模型,采用块内双向流加因果前缀的块状结构,可通过适配预训练自回归模型来训练,并用少于 30B tokens 完成 0.5B、7B 和 8B 三个规模的训练。在指令跟随、推理和编码评测中质量匹敌或超过 AR 模型,其自推测解码方案在可比质量下达到 AR 模型 2.54x 吞吐,优于多 token 预测和离散扩散方法,代码已开源。

    推荐理由:论文给出把连续流语言模型扩到 8B 的具体训练与推理方法,并附吞吐对比数据,适合关注非自回归架构的读者。

  16. GitHub · 去对齐工具与仓库58

    Project Swarm 发布:可复用的多智能体协调技能与零依赖 Node.js 运行器

    RDW-Labz 开源 Project Swarm,一个可复用的 agent skill 和零依赖 Node.js 运行器,用协调者拆分任务、由 Claude Code、Codex、Cursor、Hermes、Qwen Code 等工作器处理独立片段,再审查整合结果。支持 12 种适配器,Codex 与 Cursor 工作器在 macOS seatbelt 沙箱内的独立 git worktree 运行,API 工作器走单请求严格 JSON 交换;内置成本分层路由、消费上限、变异测试和 lessons 学习循环,当前版本 1.19.0,代码以 Apache 2.0 许可公开于 https://github.com/RDW-Labz/project-swarm。

    推荐理由:原文给出多智能体协调器的完整命令体系、沙箱隔离和成本分层路由设计,读者可以据此评估是否复用到自己的多 Agent 编码流程。

  17. GitHub · 灵魂体仓库57

    开源大战略游戏 GulfOfTrump 发布,用 ChatGPT 当历史推演游戏主持人

    Artem Okhten 开源了 GulfOfTrump,一款架空历史大战略游戏:玩家选 1914 萨拉热窝到 2022 俄乌开战共 8 个起点和任意国家,用自然语言下达政令,大语言模型扮演世界其余部分,通过官方 Sign in with ChatGPT 跑在玩家自己的 ChatGPT 套餐上,免费无内购。核心设计是模型只负责叙事并按回合返回 JSON 结果,引擎保存约 2700 个省的归属、战争、联盟、经济与军队等结构化状态,用 sanitizeOutcome 剔除无效改动、把数值波动钳制在 ±15,失败答案有一次带解析错误的修复机会。游戏含各国内政议会、以资源为基础的贸易、有名字和忠诚度的部长内阁、按城镇划分的前线与占领机制,代码 MIT 许可,地图数据 GPL-3.0。

    推荐理由:这个开源战棋游戏把 LLM 的叙事和引擎的账本分开,模型每回合只出 JSON 结果并被钳制校验,思路可以直接借鉴到其他 Agent 项目。

  18. GitHub · 灵魂体仓库64

    contraagent 开源:把 Claude Code、Codex CLI 等编码智能体编排成可校验的 Python 流水线

    GitHub 开源项目 contraagent 将 Claude Code、Codex CLI、opencode、oh-my-pi 和 pi 作为 Python 流水线中的步骤运行,每个任务是类型化函数,输出文件需通过 pydantic 模型和校验器检查。运行器负责调度、failover、配额、截止时间和断点续跑,浏览器监控器实时展示每次运行的会话记录、token、成本和订阅用量。任务在干净上下文中启动,支持按 fallbacks 链在模型、编码智能体和凭证之间切换,支持 --stub 与 --replay 零成本试跑,MIT 许可。

    推荐理由:把 Claude Code 等 5 个编码智能体当作流水线步骤统一调度,任务输出经 pydantic 校验,失败可换模型换账号续跑。

  19. GitHub · 去对齐工具与仓库59

    wJJh 开源 llm-wiki-skills:网页转 Markdown 与 GitHub Stars 管理的四个 Agent Skills

    作者 wJJh(小妖刀)发布 llm-wiki-skills 仓库,包含四个可组合的 Agent Skills,支持 Claude Code 与 DeepSeek Harness(DSH),全部零第三方 Python 依赖。核心技能 cf-browser-render 通过 Cloudflare Browser Rendering 用真实浏览器把公众号文章、SPA、文档和 GitHub 页面渲染成保留结构的 Markdown;其余三个技能分别实现手动 Star 仓库、分页导出 GitHub Stars、批量扫描 Star 仓库新版本并生成 Markdown 报告,四者可组成发现、收藏、导出、版本追踪的完整流水线。项目 MIT 许可,需 Python 3.10+,国内网络访问 Cloudflare 需配置代理。

    推荐理由:四个技能全部只用 Python 标准库、零第三方依赖,且同一套 SKILL.md 可同时被 Claude Code 和 DeepSeek Harness 加载。

  20. GitHub · 去对齐工具与仓库60

    CalibGuard 开源低成本文件安全审计系统,本地小模型门控加云端大模型灰区复核

    P-436 在 GitHub 发布 CalibGuard,一套面向脚本、代码、文本和压缩包的文件安全审计系统,输出放行、可疑、拦截、转人工四档结论。本地用 CodeBERT 滑窗推理加 Platt 校准做三桶门控,低危与高危文件不联网判定,仅灰区调用云端 LLM 复核,加复核后 F1 从 0.8600 升至 0.8689、精确率从 0.8739 升至 0.9017。CodeBERT 底座推理 22.4 条/s,约为 0.5B 级 Qwen 的 3–4.3 倍,训练快 2.3–3.2 倍;Releases 提供 GUI 包开箱即用,另有 dsh-calibguard 插件接入 DeepSeek Harness 作为 agent 工具调用。

    推荐理由:作者给出五种底座的 F1、训练耗时与推理速度对比,并附校准前后和云端复核的实测数据,选型依据可直接参考。