跳到正文

内容形态

开源项目 最新动态

开源仓库与工具:人格工程、记忆系统、去对齐脚本、推理与微调工具链。

2,050 条精选近 30 天 2,043 条共收录 8,516 条

更新

精选归档 · 第 20 页

10月11日周日第 381–400 条
  1. GitHub · 去对齐工具与仓库55

    aleenabenny0/agent-evals 开源工具型 LLM Agent 评测框架,优先用确定性评分抓幻觉

    GitHub 开源项目 agent-evals 发布,用于测量工具调用型 LLM Agent 的准确率与幻觉,通过保留集验证的改动改进 Agent。框架包含 AWS docs agent(逐条引用与文档快照核对,虚构页面和错引由代码标记)和 boto3 代码 agent(按 botocore 服务模型检查 API 调用,在 moto 无网络沙箱运行)。评分优先用引用检查、关键词检查等纯代码确定性 graders,代码无法判定的部分才用 LLM judge;每个指标带 bootstrap 置信区间、McNemar 检验和 τ-bench 的 pass^k,运行记录含 git SHA、prompt hash 等完整 manifest。

    推荐理由:开源的 Agent 评测框架,先跑代码级确定性评分再上 LLM judge 的思路值得借鉴,统计方法部分也可迁移到自家项目。

  2. GitHub · 3D 生成新仓库60

    vamsikrishna2421 开源 Animated_video_generations:Remotion 加 Kokoro 打造纯代码动画视频流水线

    GitHub 仓库 Animated_video_generations 提供用 React 组件逐帧渲染 MP4 的代码动画视频方案,不使用扩散视频模型,语音用本地 Kokoro(82M 参数 TTS、ONNX、CPU),音乐在 Python 中程序化合成,无需 API 密钥或付费服务。样例包括 52 秒 1080p 的税务助手 Muse 宣传片和 15 秒电影风片头,旁白按句合成以驱动字幕与场景逐帧对齐,另含面向 Instagram 竖屏 Reels 的系列课程构建脚本 ./pipeline/build_lesson.sh,可选在 CUDA GPU 上用 Qwen-Image 渲染插图。

    推荐理由:仓库给出完整的代码动画视频流水线脚本和场景组件清单,读者可以直接复现纯代码生成配音配乐的推广与教学视频。

10月10日周六
  1. GitHub · 去对齐工具与仓库62

    JEV 开源:基于 TypeSafe Jev 决策模型的本地聊天式浏览器 Agent

    samuelyossef 在 GitHub 开源了 jev-openfast,一个通过聊天驱动的本地浏览器 Agent,调用真实 Chrome 标签页执行 CLICK、TYPE_TEXT 等操作,决策由 TypeSafe 的 typesafe/jev-1.13 结构化模型完成,文字输入使用 inception/mercury-2.5。模型不写选择器或代码,页面转为编号元素表后由模型从表中选操作和目标;发送、支付等外部承诺需人工批准,DONE 后会重新检查页面并给出 confirmed、not met 或 unknown 的验证结果。

    推荐理由:这个本地浏览器智能体在执行前用元素表决策、DONE 后独立复核结果,作者还写明了 guards 与隐私处理的实现思路,可供搭建类似 Agent 参考。

  2. GitHub · 去对齐工具与仓库64

    Regolo.ai 开源模型路由器 brick-SR1,单次决策按查询难度分发模型池

    Regolo.ai 在 GitHub 开源 Brick(brick-SR1),一个 OpenAI 兼容的模型路由器,按每个查询的能力向量与复杂度评分单次前向决策选模型,可接入 Claude Code 和 Codex,虚拟模型名 brick,后端选择通过 x-selected-model 响应头返回。在 Dataset A(5,504 条)评测中,max-quality 模式准确率 76.98%、成本 1.5 倍于最便宜模型,超过 Always Kimi2.6(75.02%、6.0 倍成本),oracle 上限 83.25%。

    推荐理由:开源的模型路由器,按能力与复杂度单次前向决策选模型,附成本质量评测数据,可与 RouteLLM 等对比参考。

  3. GitHub · 3D 生成新仓库58

    sisyphus-academica 开源:20+ 智能体协作生成研究论文的仓库

    GitHub 仓库 argahv/sisyphus-academica 发布,用 20+ 专业化智能体、6 个新颖性引擎和 10 个对抗性审稿角色生成 LaTeX 论文,并通过 5 道代码强制的质量门(引用验证、统计审计、AI 痕迹检测、风格审计、全票通过审稿)。引用需在 Semantic Scholar、CrossRef、OpenAlex 和 arXiv 中至少 2 个来源匹配才能通过,示例 SIREN 论文经 4 轮修订后审稿均分从 4.6/10 升到 8/10。Python CLI 可脱离 agent 平台独立运行,17 个技能也可通过 npx 安装到 Claude Code、Cursor 等 agent。

    推荐理由:仓库给出了五道由代码强制执行的质量门和示例管线数据,想复用多智能体写论文流程的读者可以对照其门禁设计。

  4. Reddit · r/LocalLLaMA71

    作者自制 CUDA megakernel 让 Qwen3.8-27B 在单张 RTX 3090 上跑出 140 tok/s 代码生成速度

    作者 /u/Adorable_Weakness_39 用 Claude Opus 5.5 编写 CUDA megakernel,在单张 RTX 3090 上加速 Qwen3.8-27B,比 llama.cpp(启用 MTP)快 1.4-1.9 倍:写代码 140 tok/s 对 73,带 4K token 文件上下文编码 95 tok/s 对 56,prefill 约 1,600 tok/s 对约 1,100。加速来自把整个投机解码周期放进一次 kernel launch,检查 4-5 个草稿 token 的成本约等于检查一个。

    推荐理由:作者实测给出同硬件下 megakernel 与 llama.cpp 的逐项速度对比和适用限制,可迁移到单卡本地推理的加速尝试。

  5. Reddit · r/LocalLLaMA60

    DigUp 开源 Mac 应用本地运行 EmbeddingGemma 2 实现多模态文件语义搜索

    作者 /u/A-Rahim 发布免费开源 Mac 应用 DigUp,本地运行 Google DeepMind 的 EmbeddingGemma 2,用一句描述搜索文件中的文本、图片、音频和视频内容。应用使用 ggml-org 的 Q8_0 GGUF 模型(865 MB)跑在 llama.cpp Metal 上,搜索只加载约 250 MB 文本编码器,停止输入约十分之一秒出结果,索引峰值低于 2 GB,支持孟加拉语和阿拉伯语搜索,MIT 协议,需 Apple Silicon 和 macOS 14+,仓库为 https://github.com/ARahim3/DigUp。

    推荐理由:作者开源了基于 EmbeddingGemma 2 的本地多模态文件搜索 Mac 应用,内存占用、延迟和隐私细节都写得具体,便于本地部署参考。

  6. GitHub · 去对齐工具与仓库59

    PostTrainLLM 开源 Mac 单机 LLM 训练工厂与浏览器 playground

    PostTrainLLM 发布 MIT 协议的 Mac-first LLM 训练工厂、运行时与浏览器 playground,完全本地运行、零云端。项目含 76 个实验的最终处置、18 份保留配方契约、九个学习阶段产出十三件工件,并给出实测结果:单 Mac 上用约 99 条 frontier rollout 蒸馏的 4B 模型在多轮 agentic 工具调用硬门槛上得 100%,与 DeepSeek-V4-pro 持平,高于 Gemma-4-12b-qat 的 83% 和原版 4B 的 75%。作者同时披露了局限,如 v11 到 v12 迁移中域外广度从 60% 回退到 42%,sealed V1 评测 57.1% 的意图路由器被标记为 production reject。

    推荐理由:作者整理了完整的实验台账、方法文档与 Mac 单机实测数据,读者可以按配方复现这条本地训练与蒸馏路线。

  7. GitHub · 灵魂体仓库61

    Summarizing 开源:把群通知和聊天碎片由 AI 整理成带证据链的事项看板

    GitHub 项目 Lotuses-robot/Summarizing 开源,一条个人信息流水线:群通知、随手记、聊天碎片由 AI 消化成带日期、要素和来源的完整事项,整理不了的进存疑库等人工决定。功能包括四段看板、群机器人接入、逐字引文证据链、全量快照修改留痕,SQLite 单文件单机自托管,AI 走 OpenAI 兼容接口可接本地模型,AGPL-3.0 许可。

    推荐理由:这是一个可自托管的碎片信息整理工具,证据链和存疑库设计让 AI 整理结果可回溯到原话,适合想本地管理通知流的人参考。

  8. GitHub · 灵魂体仓库56

    Obelum:用 LLM 做翻译器的多语言文档同步 TypeScript 库

    maxmart 发布了 Obelum,一个实验性的 TypeScript 库,用于在多个语言版本间同步文档,不设主语言,任何语言的编辑都可传播到其他语言。它为每种语言保存其他语言上次同步时的快照,通过 diff 生成翻译简报,提供 edit、fix、sync 三个操作,支持各语言版本结构不同的本地化;默认用 LLM(附 @obelum/translator-claude)做翻译器但可替换,状态完全存于 git 树中,无需额外运行服务。

    推荐理由:工具用快照副本加 diff 的思路让翻译只处理增量改动,还允许各语言版本结构不同,方法对做多语言站点的人有直接参考价值。

  9. Reddit · r/LocalLLaMA68

    作者发布 strata-mlx:在 Mac 上用 MLX 引擎运行 Strata 的 GGUF 模型

    作者花了约一天半写出非官方 MLX 引擎 strata-mlx,直接读取 Strata 的 GGUF 文件、不改权重,在 Mac 上运行 Qwen3.8-Flash-Next 这个 125B 参数 MoE 模型。内存不足以装下整个模型时按需从 SSD 读取专家;模拟测试中 66 GB 的 Q2_0 文件在 16 GB、24 GB、32 GB 内存档位分别跑出 6–7、19–23、28–47 tokens/秒,提示词读取约 273–287 tokens/秒。代码与实验日志在 https://github.com/yibie/strata-mlx。

    推荐理由:作者用限内存实测给出不同 Mac 内存档位的运行速度数据,对想在 Mac 上跑超内存大模型的人有参考价值。

  10. GitHub · 去对齐工具与仓库63

    reasoning-kernel 0.6.3 发布:用 CaMeL 式控制流隔离防御 LLM Agent 提示词注入

    gianlucamazza 在 GitHub 发布 reasoning-kernel 0.6.3,一个框架无关的 Python 参考实现,将 LLM 视为不可信计算,用 CaMeL 式(arXiv:2503.18813)控制/数据流分离降低提示词注入到实际效果的风险。核心是两条不变量:根规划器不接触原始工具输出,模型输出必须通过确定性 Gate 验证才能产生持久效果;P-LLM 与 Q-LLM 均为不可信推理器,权限只能收缩。项目附带威胁模型与非目标清单,明确声明这不是安全证明,PyPI 包名为 capability-reasoning-kernel,MIT 协议。

    推荐理由:这是 Reasoning Kernel 模式的可运行参考实现,威胁模型与测试覆盖写得明确,适合构建处理不可信输入的 Agent 时对照借鉴。

  11. GitHub · 灵魂体仓库57

    Mirobody 开源自托管 AI 健康数据引擎,可本地运行全部模型

    thetahealth 在 GitHub 开源了 Mirobody,一个自托管 AI 健康数据引擎,将化验报告、可穿戴设备和基因文件整合为标准化记录,每项数值可追溯至原始文件。支持 Docker 一键部署加一个模型 key(OpenRouter、OpenAI、Gemini、Anthropic、DeepSeek 等),也可通过 llama.cpp 纯本地运行,无需 GPU 时首答约 2–3 分钟(Apple 芯片笔记本原生 llama-server 约 30 秒)。

    推荐理由:项目给出了完整的部署路径、本地模型内存与耗时数字和术语解析测试通过数,读者可以照此评估自托管健康数据引擎的落地成本。

  12. GitHub · 去对齐工具与仓库61

    bobzhou-source 发布 job-application-harness:用 Bun CLI 自动完成浏览器求职申请

    bobzhou-source 在 GitHub 发布 job-application-harness,一个基于 Bun 的 CLI 工具,在专用 Chrome 配置文件中自动填写并提交网页版求职申请,支持单个职位、队列处理和从 Handshake 站点发现职位。执行器而非模型对每次点击、填写、上传和导航拥有最终决定权,默认在最终提交前停止,--submit 仅授权提交与必要声明,永不勾选营销选项、使用第三方登录或处理支付;CAPTCHA、MFA、出生日期等步骤始终留给用户。模型决策经 OpenRouter 与 DeepSeek,成本估算约每次典型提交 $0.04,含难站点平均约 $0.11。

    推荐理由:这个求职自动化工具把点击与提交权交给确定性执行器而非模型,安全边界写得很具体,其设计思路可迁移到其他浏览器 Agent 项目。

  13. GitHub · 去对齐工具与仓库59

    free-llm-tracker 开源:自动追踪531个免费 LLM API 模型并附实测速度

    harrytyp 在 GitHub 开源 free-llm-tracker,自动索引免费 LLM API 模型,目前收录 531 个模型、81 个 Provider,其中 63 个有实测 t/s,每 6 小时经 GitHub Actions 更新并发布到 GitHub Pages。数据源包括 OmniRoute 免费列表、OpenRouter /api/v1/models 与 llm-benchmarks.com,同仓库还附带一个仅用 Python 标准库的 llm-mini-router 网关,提供 OpenAI 兼容端点,可按 Intelligence 或 t/s 自动选模型并在限流时回退。

    推荐理由:一个每6小时自动更新的免费 LLM API 追踪器,汇总531个模型并附实测速度与路由网关,适合本地部署参考。

  14. GitHub · 去对齐工具与仓库70

    siweina 发布 dsh-novel-writer 插件,19 个工具全本地覆盖中文小说写作流程

    siweina 在 GitHub 发布 dsh-novel-writer 插件,为 DeepSeek Harness(DSH)提供 19 个中文小说写作分析工具,也可作为 MCP 服务器供 Claude Desktop / Cursor 使用。插件覆盖动笔前取材料、量化自检、按严重度排改稿待办、跨章结构体检的完整流程,内置 24MB 的 bge-small-zh-v1.5 模型随包分发,语义检索与情感分析全本地 CPU 推理、零 API 花费、正文不出本机。改稿台只给改写方向不代写正文,兼容 Node >= 22.3 与 DSH >= 0.1.1-rc.2,MIT 许可证。

    推荐理由:作者把写作流程拆成取材、自检、改稿、跨章体检四步并全部本地化,方法细节可直接迁移到中文小说辅助写作场景。

  15. GitHub · 去对齐工具与仓库63

    mcp-guard 开源:对 MCP 服务器发真实对抗 payload 的模糊测试工具

    Zion-sewers 在 GitHub 开源 mcp-guard,一个对 MCP 服务器做安全模糊测试的 Python 工具,通过 stdio 启动服务器、按 inputSchema 生成对抗 payload 并把响应分类为 SAFE/FINDING/CRASH。共 6 类探测(shell 注入、SSRF、溢出、类型混淆、prompt 注入、间接注入),string 参数发 29 个 payload、URI 参数 37 个;对官方 server-memory 发 91 个 payload 发现 41 项问题,对 server-filesystem 发 490 个发现 24 项,支持 JSON/SARIF 输出接入 CI,零外部依赖,Python 3.11+ stdlib 实现。

    推荐理由:工具直接用真实对抗 payload 对 MCP 服务器做动态模糊测试,README 附官方服务器的实测数据和用法,方法可以照搬进自己的 CI。

  16. GitHub · 灵魂体仓库61

    better-trip-planner:可加载进 Claude Code 等 Agent 的境内旅行规划 Skill

    ChenYiming-aaa 在 GitHub 发布 better-trip-planner,一个开放格式 Agent Skill,把一句旅行需求变成逐小时、信息经工具核实的行程计划,交付为自包含 HTML 页面,适配 Claude Code、Codex、Gemini CLI、Cursor 等宿主。SKILL.md 分六个阶段执行,内置四种模式(整趟、单日、空档填充、临场重排),针对中国大陆适配高德/百度地图、12306/携程深链、节假日调休与气象预警等数据源,营业时间和价格用工具核实、不代订不付款。所有密钥可选,无密钥时降级运行;README 称快速开始命令已于 2026-10-02 实测退出码均为 0,并附杭州到青岛 5 天等四个完整示例。

    推荐理由:README 给出了完整安装命令、实测验证记录和七种主题成品示例,想给编码智能体加行程规划技能的读者可以直接照着装。

  17. GitHub · 灵魂体仓库63

    som1ng/API-QuickCheck 开源,用签名回传验签检测中转站偷换模型

    som1ng 在 GitHub 开源 API-QuickCheck,通过 Claude thinking 块服务端签名回传验签、SSE 事件顺序等协议断言检测中转站是否偷换模型。工具支持批量测活(1~50 线程并发)、余额嗅探、24 项四层探针覆盖 9 个旗舰模型,提供 Web 端与 npx 免安装 CLI,Key 仅在本地内存处理,MIT 协议。

    推荐理由:原文给出了具体验签和协议断言机制,读者可以照此判断 API 中转站是否偷换模型,工具可 npx 免安装复用。

  18. GitHub · 灵魂体仓库73

    contextscope 发布本地优先的 LLM 上下文窗口与缓存失配分析工具

    Anton Soloviev 发布开源工具 contextscope,用于分析 Agent 请求日志里的 token 分布与 prompt cache 失配原因,支持 Anthropic 和 OpenAI 的缓存规则逐轮模拟,全部在浏览器或本地运行、数据不上传。作者基于 360 条 SWE-bench 真实轨迹、12,760 条请求做了验证:Claude token 估算在校准后误差为 +1.6 到 +3.3%,缓存读取判断与 Anthropic 在 96 到 100% 的请求上一致;OpenAI 计数在补上每条消息 5 个 framing token 后在 2,205 条请求中全部精确。

    推荐理由:工具作者用 360 条 SWE-bench 真实轨迹实测了自己的缓存模拟精度,读者可以据此判断这份准确率数字的适用范围。