跳到正文

内容形态

开源项目 最新动态

开源仓库与工具:人格工程、记忆系统、去对齐脚本、推理与微调工具链。

2,050 条精选近 30 天 2,043 条共收录 8,517 条

更新

精选归档 · 第 100 页

10月6日周二第 1981–2000 条
  1. GitHub · 去对齐工具与仓库65

    tokatlas 开源本地 LLM 推理性能数据集与查询网站

    tokatlas 在 GitHub 开源了一个持续更新的本地 LLM 推理性能数据集与网站,收录 GPU/CPU/APU 在 llama.cpp(CUDA/ROCm/Vulkan/Metal/SYCL/CPU)、MLX、vLLM、ExLlama 等后端下的 prompt 处理与生成速度、功耗等实测记录,每条记录附来源 URL、检索日期和精确引用数字。

    推荐理由:这个仓库把分散的本地推理实测数据汇成带来源引用的数据集,买硬件或选量化、后端前可先查同型号芯片的实测速度。

  2. GitHub · 去对齐工具与仓库71

    Haruspex 开源本地 AI 研究与编程桌面工具

    GitHub 项目 Haruspex 发布,这是一款默认完全本地运行的桌面 AI 研究与编程工具,支持 Linux、Windows 和 macOS,无需账号、无遥测,内置 llama-server 自动下载适配硬件的模型,也支持接入 llama.cpp、Ollama、vLLM 等 OpenAI 兼容服务器或 OpenRouter。

    推荐理由:README 按显存档位列出对应模型与各功能的实际表现边界,读者可据此判断自己的硬件能用到什么程度。

  3. GitHub · 去对齐工具与仓库57

    Hadezu 发布 llm-extraction-release-gate 提示词发布门禁工具

    Hadezu(Ivan Matiushkin 与 Codex)在 GitHub 发布 llm-extraction-release-gate,一个用于判断新版提示词能否发布的 Python 评估门禁工具,检查严格 JSON、来源引文、逐例回归与候选绝对下限,并以退出码 0/1/2 给出发布决策。

    推荐理由:原文区分了聚合分数与关键回归否决,候选提示总体提升仍因单例回归被拦下,发布决策附可查验证据。

  4. GitHub · 去对齐工具与仓库64

    EQ-Layer 开源:在 LLM 生成前加入情感与意图控制层

    Furox-Art 在 GitHub 开源 EQ-Layer,一个不重训模型、在 LLM 说话前做显式决策的控制层,将情感状态(valence、arousal、escalation_delta 等)与意图状态作为可检查的中间表示,联合选择 mirror、direct、repair 等响应策略并注入解码路径。

    推荐理由:原文给出完整的架构设计与 EmoBank、XDailyDialog 上的实测基线数字,还保留了 no-go 结果和盲评协议,读者可以据此评估这个控制层思路的成色。

  5. GitHub · 去对齐工具与仓库59

    agentstation 开源 Starmap:统一 AI 模型目录的 Go 包、CLI 与 HTTP 服务器

    agentstation 在 GitHub 开源了 Starmap,一个版本化的 AI 模型目录,提供 Go 包、CLI 工具和 HTTP 服务器(REST + SSE)三种接口。

    推荐理由:原文完整给出了这个 AI 模型目录工具的架构、数据源与部署方式,开发者可以据此判断是否纳入自己的工作流。

  6. GitHub · 去对齐工具与仓库57

    fryanpan 开源 Claude Code 工作区插件 claude-workspaces-plugin

    fryanpan 开源了个人 Claude Code 工作区插件 claude-workspaces-plugin,用于从手机和 Mac Mini 并行管理 6 个以上项目、15+ 个 agent。

    推荐理由:作者用 review queue 替代聊天流来管理 15+ 并行 agent,并给出 done criteria、stall check 等具体护栏做法,可迁移到多 agent 协作场景。

  7. GitHub · 去对齐工具与仓库70

    DragonBall2 开源 llm-project-docs:让 Claude Code 在改代码的同一轮更新文档

    DragonBall2 发布 llm-project-docs,一个 Claude Code 插件,让改代码的 agent 在同一轮更新仓库内以链接 Markdown 页面组成的 wiki 文档。

    推荐理由:原文给出用 verified_at 记录校验提交、让 lint 脚本机械计算文档漂移的完整机制,可直接迁移到自己的仓库。

  8. GitHub · 灵魂体仓库62

    gitpumper:按日期范围提取 GitHub PR 与提交信息的 Python 脚本

    darkmushroom 发布了 gitpumper,一个无需外部依赖的 Python 3.8+ 脚本,可按日期范围提取 GitHub 仓库的 PR 和 commit 信息,输出为节省 token 的结构化 Markdown,供 LLM 分析和代码审查使用。

    推荐理由:原文给出了该脚本的具体用法和认证配置方式,需要把 GitHub PR 和提交记录整理成 LLM 可用输入的读者可以直接照做。

  9. GitHub · 去对齐工具与仓库56

    Sinan Compute 发布中转站实付比价与可达性测量工具

    Sinan Lab 开源了 Sinan Compute,用于对 LLM API 中转站做实付比价与可达性测量,核心公式为面板名义价 × 充值汇率 ÷ 美元人民币汇率得出有效 $/M tokens。

    推荐理由:原文公开了实付比价的完整计算公式、900+ 中转站规模与 sha256 快照取证方法,读者可自行复算或用 CLI 实测。

  10. GitHub · 灵魂体仓库60

    conformal-llm:用保形预测为 Qwen2.5-3B 的 MMLU 答案生成带 90% 覆盖保证的选项集合

    作者让本地运行的 Qwen2.5-3B-Instruct(Q8_0 GGUF,经 llama.cpp)回答 MMLU 三个学科的 416 道选择题,用 split conformal prediction 把输出概率转成带数学保证的答案集合:每个集合以至少 90% 概率包含正确选项。

    推荐理由:作者用 split conformal prediction 给小模型输出加了 90% 覆盖保证,并给出 LAC 与 APS 的实测对比数据,方法可复现。

  11. GitHub · 去对齐工具与仓库63

    finetune-studio:自托管本地模型微调与 RAG 一体化工作台

    GenorTG 发布 finetune-studio,一个自托管的浏览器 WebUI,覆盖本地模型训练、推理与评测全生命周期:构建 RAG 语料、用 LoRA/QLoRA 微调、运行 MMLU/GSM8K/HellaSwag 风格的离线评测套件并对比两次训练、以及本地聊天,支持 safetensors 和 GGUF 模型。

    推荐理由:把 RAG 构建、LoRA 微调、评测对比和本地推理整合进一个自托管 WebUI,适合想在一处完成模型训练全流程的本地用户。

  12. GitHub · 去对齐工具与仓库61

    model-cache-manager:管理 Hugging Face 模型缓存的 macOS 原生应用

    Fredrik Lindstrom 发布开源 macOS 原生应用 model-cache-manager,用于查看、清理 Hugging Face 模型缓存并按 N 天(默认 30)未使用自动删除,Apache License 2.0。

    推荐理由:原文讲清了共享 blobs 存储下的安全删除逻辑和 last used 的判定方法,可避免误删仍在使用的模型。

  13. Reddit · r/LocalLLaMA63

    开源 Agent 应用 Muse 发布 v0.5.0,可常驻 Android 手机本地运行

    Reddit 用户 /u/Choice-Lawyer4779 发布了开源 Agent 应用 Agent: Muse v0.5.0,将此前的桌面 Agent 方案 AOS 精简为单个 Android 应用,常驻手机并像个人助理一样学习用户行为。

    推荐理由:作者把桌面 Agent 方案压缩进单个 Android 应用,自带浏览器、wiki 式持久记忆和 BYOM 接入,README 与仓库可直接复用。

  14. GitHub · 灵魂体仓库59

    deco Studio 开源:面向组织的私有 AI 工作台

    deco 团队在 GitHub 开源了 deco Studio,一个 TypeScript 编写的私有 AI 工作台,把模型路由、MCP 认证、Agent 配置、SSO、RBAC、审计日志和用量核算打包为统一控制面。

    推荐理由:原文完整给出了该开源 AI 工作台的功能清单、架构分层与从笔记本到 Kubernetes 的部署路径,便于评估是否适合团队内部落地。

  15. GitHub · 灵魂体仓库63

    ilk-skills 开源:为 AI 编程智能体打造分阶段计划循环执行工具包

    inluck-net 在 GitHub 发布 ilk-skills 工具包,为 AI 编程智能体提供分阶段执行循环:将任务分解为 MASTER 计划加子计划,每步由全新智能体会话执行,并以可执行的 local_checks 作为完成标准(命令退出码 0),看门狗自动分类退出原因并续跑或报错。

    推荐理由:这个技能包把计划而非会话作为工作单元,每步用可执行 local_checks 验收并带看门狗自动续跑,细节完整可直接复用。

  16. GitHub · 去对齐工具与仓库64

    innestemme:Rust 本地语音助手引擎开源,支持 Whisper 与 ESPHome 卫星

    作者开源了 Rust 编写的本地语音助手引擎 innestemme:音频经 UDP 传输,由 Whisper 或 Kyutai STT 转写,规则处理灯光、音乐、计时器、天气、公交等常见请求,其余交给 OpenAI 兼容接口的本地小模型(如 Ollama 跑 Qwen3 4B)选择技能,回答用 Pocket TTS(英语)或 Piper(挪威语)播报。

    推荐理由:作者给出了从拾音到播报的完整本地语音链路,并附上 M4 Pro 上的逐级延迟与 TTS 实测数据,可作本地部署参考。

  17. GitHub · 去对齐工具与仓库59

    chatbot-quality-analyzer:无需人工标注的聊天机器人日志质量分析工具

    ismailmelikic 在 GitHub 发布 chatbot-quality-analyzer,可无需人工标注即可分析聊天机器人日志:用多语言句子嵌入加 KMeans 自动发现话题,用语言规则从回复文本检测失败(含转人工、重复提问等信号),并输出周度失败率趋势与可引用数据的管理报告。

    推荐理由:这个开源工具用多语言嵌入加规则检测来分析聊天机器人日志,README 还给出与 TF-IDF 的 ARI/NMI 对比数据。