跳到正文
10月6日周二
  1. GitHub · 去对齐工具与仓库68

    JeanVG23 开源纯 Python 从零实现的 Agent Harness 与评测基准

    JeanVG23 发布 agent-harness-from-scratch 仓库,用纯 Python 标准库、零运行时依赖从零实现 LLM 工具执行引擎(Agent Harness)和评测基准,并经 Ollama 在 qwen2.5:3b 等小模型上与 Smolagents、Pydantic-AI 对比。

    推荐理由:作者用纯标准库从零实现 Agent Harness 并给出与 Smolagents、Pydantic-AI 的实测对比,每步附失败记录和局限说明。

  2. GitHub · 灵魂体仓库67

    Coddy 发布:单静态 Go 二进制的通用 Agent 工具

    coddy-project 在 GitHub 发布 Coddy,一个打包为单个静态 Go 二进制的通用 Agent 工具,提供终端 TUI、编辑器 ACP 接入、OpenAI 兼容 API 与内嵌 Web UI、Telegram 网关、cron 调度器、swarm 中继和远程模式,各接入面共享 ~/.coddy 下的会话。

    推荐理由:原文完整列出了各接入面、运行模式与安装方式,读者可以据此判断这个单二进制 Agent 框架是否覆盖自己的使用场景。

  3. GitHub · 灵魂体仓库31

    Jeeves Agent:本地运行的 Home Assistant 家庭监控智能体

    GitHub 上的 Jeeves Agent 是一个本地 Home Assistant 监控智能体,检测传感器失联、温湿度异常(偏离基线 3 个标准差)、摄像头静默和 HA 系统健康问题,故障发生与恢复时各发一次通知。默认每 5 分钟轮询一次,全部运行在自有硬件上,无云服务和外部 API,状态存于 SQLite 并支持自定义 watcher 扩展。

  4. GitHub · 灵魂体仓库62

    promptmend 发布:基于 Espanso 的提示词改写工具

    作者在 GitHub 发布 promptmend(0.19.0,原名 espanso-prompt-rewriter),输入触发词 -i- 或 -ip- 即可把剪贴板里的草稿改写成 CONTEXT/GOAL/INSTRUCTIONS 等分段的结构化提示词。工具支持 OpenRouter、Anthropic、Ollama 和 LM Studio 四种后端,-i- 约 2 秒返回,-ip- 走推理模型约 6 秒;云调用前会用正则门禁拦截支付卡号、API 密钥、密码等敏感内容,PROMPT_LOCAL_ONLY=true 可禁止一切云端调用,并支持通过 PROMPT_PERSONA 设置人格句。

    推荐理由:作者详细说明了触发词、数据保护门禁和四个模型后端的工作方式,读者可以直接复用这套草稿改写为结构化提示词的流程。

  5. GitHub · 去对齐工具与仓库35

    Simple RAG:本地优先的文档摘要与问答工具(Rag_document_project)

    Simple RAG 是一款本地优先的文档摘要与问答工具,支持上传 PDF、DOCX、PPTX、TXT、HTML、CSV、XLSX、JSON 等格式,生成约 5-8 条要点摘要并基于文档内容回答问题。它使用 Streamlit 构建 UI,通过 FAISS 管理向量存储,模型经 Ollama 本地运行、以 OpenAI 作为备用,采用 MIT License 开源。

  6. Reddit · r/LocalLLaMA64

    Orange Pi 5 Plus(RK3588)本地大模型实测:Ollama 吞吐、NPU 卸载与散热数据

    作者实测 Orange Pi 5 Plus(RK3588、16GB)运行本地大模型的表现,发现把 Ollama 限制到 4 个 A76 大核可带来最高 +318% 提速,Qwen 2.5 1.5B 达 14.5 tok/s,而 Llama 3.1 8B 受 LPDDR4x 带宽限制仅 2.3 tok/s 且裸片温度达 85°C。

    推荐理由:作者用同一块板子实测了线程数、NPU 与散热的取舍,给出了各档模型的 tok/s 和温度数据,可迁移到其他 RK3588 部署场景。

  7. GitHub · 灵魂体仓库18

    jincheol5 开源 Food_Info_ETL:基于 LLM 的食品营养成分 ETL 自动化流水线

    GitHub 上的 Food_Info_ETL 是一个基于 LLM 的食品图像营养成分信息 ETL 自动化流水线,使用 LangChain 构建图像加载、LLM 信息提取与转换、结果验证到 MongoDB 加载的完整流程。模型通过 Ollama 部署,对比多个支持图像输入的模型后选用 Qwen3.5-9b 或 Gemma4-e2b。

  8. GitHub · 灵魂体仓库57

    Domain-Stratified NMT Corpus Builder 开源:两阶段领域分类器切分平行语料

    作者开源 Domain-Stratified NMT Corpus Builder,将平行语料按领域分层切分以训练 NMT 模型。流程分两阶段:先用 nvidia/domain-classifier 处理约三分之二可判定的语料,再用 ollama 上的 llama3.2:3b 生成约 15k 条种子标签训练 fastText 处理剩余模糊部分。

    推荐理由:作者用两阶段分类器把 170 万平行语料按领域切分,实测 35 分钟跑完,并给出温度参数与定向采样两个可迁移的调优结论。

  9. GitHub · 去对齐工具与仓库45

    RustClaw:面向桌面的轻量级 AI 智能体工具

    RustClaw 是一款用 Rust 编写的桌面 AI 智能体工具,可将本地或远程模型接入 Telegram、Discord 和 GitHub,自动执行创建 pull request、发送消息等任务。它仅需 512 MB 内存和 20 MB 磁盘空间,设计目标为占用低于 8 MB RAM,支持通过 Ollama 运行本地模型或配置 Anthropic API 使用远程模型,数据默认保留在本地。

  10. GitHub · 去对齐工具与仓库58

    hwdsl2/docker-ollama:带认证的 Ollama 本地 LLM 服务器 Docker 镜像

    hwdsl2 发布 docker-ollama 镜像,用于以 Docker 运行 Ollama 本地大语言模型服务器,提供 OpenAI 兼容的 /v1 API 子集和原生 Ollama API。

    推荐理由:这个 Docker 镜像默认用 Caddy 强制 Bearer token 认证并自动生成 API key,README 还给出磁盘与内存需求表,便于自行评估部署成本。

  11. GitHub · 去对齐工具与仓库68

    hwdsl2 开源 Self-Hosted AI Stack:一条 Docker Compose 命令部署本地 AI 全家桶

    hwdsl2 发布 self-hosted-ai-stack 仓库,用 Docker Compose 一键部署 Ollama、LiteLLM、AnythingLLM、Embeddings、ScribeCrate、MCP Gateway、Docling、Kokoro 等服务,首次启动自动配置并自动生成 API 密钥。

    同一新闻,精选展示《self-hosted-ai-stack:Docker Compose 一键部署本地 AI 全栈》

  12. GitHub · 灵魂体仓库69

    heyman 开源:让模型读本机 man 页面把自然语言转成 shell 命令

    alecf 开源了 heyman,一个把自然语言请求转成 shell 命令的 CLI 工具,模型通过 man、man_search、which 三个工具读取本机 man 页面,使生成的命令参数匹配当前系统(macOS 用 BSD 语法,Linux 用 GNU 语法)。

    推荐理由:作者用 50 例评测给出各模型通过率与延迟对比,本地部署的上下文窗口和内存坑也写清了。

  13. GitHub · 灵魂体仓库40

    AEGISAI:本地 LLM 安全测试仪表盘

    AEGISAI 是一个用于测试本地 LLM 安全性的仪表盘,可评估提示词注入、敏感数据泄露和越狱攻击风险。它通过 FastAPI 后端、PostgreSQL 数据库、Ollama 本地模型和 React 安全控制台运行测试、存储证据、计算风险并导出 JSON 报告,支持风险分类(blocked、uncertain、leaked)、严重程度评分与延迟追踪。

  14. GitHub · 去对齐工具与仓库60

    FreeBSE-Osaka 开源多人格辩论编排工具 mp_cod

    FreeBSE-Osaka 在 GitHub 开源了 mp_cod,一个让单个本地 LLM 以多个专业家人格独立生成见解、经相互反驳与调和后形成结论的 CoD 编排工具。

    推荐理由:原文附带了完整命令示例与实机耗时、内存数据,读者可以照着在本地复现这套多人格辩论编排流程。

  15. GitHub · 去对齐工具与仓库77

    alexvervloet 发布 askrepo:用自然语言提问代码库并附文件行号引用

    alexvervloet 开源了 askrepo,一个对代码库用自然语言提问、答案附带 (path:line) 引用的 CLI 工具,作为其 AI Engineering deep-dive 系列的 capstone 项目,按 v00 到 v07 及多个 ext-* 扩展分支逐步构建。

    推荐理由:原文给出了 RAG 与 agent 检索在同一评测集上的实测对比,以及本地与云端栈的成本、正确率和延迟数据。

  16. GitHub · 去对齐工具与仓库55

    DeskRecap 开源本地会议记录工具,录音转写摘要全程不出本机

    DeskRecap 是一款 local-first 桌面应用,流程为录音(麦克风和/或屏幕音频)→ 用 Whisper 本地转写 → 用内置本地模型摘要并对话,音频和文本不上传。

    推荐理由:开源的本地会议记录工具,录音、转写、摘要和对话全程不出本机,还详细说明了 token 鉴权与 macOS 签名等部署细节。

  17. GitHub · 灵魂体仓库71

    Otto 桌面 AI 编码工作室发布,让小模型也能写真实文件

    zeithub 团队在 GitHub 开源了 Otto,一个桌面 AI 编码工作室,支持本地 Ollama 模型、OpenRouter、Groq 等托管提供商以及 Claude Code 或 Codex 订阅。

    推荐理由:桌面 AI 编码工具 Otto 针对小模型设计受限执行与浏览器自检,还提供多提供商回退,适合想在小硬件上跑编码智能体的开发者。

  18. GitHub · 灵魂体仓库35

    sathaps/edge-llm-reproduction:边缘设备 LLM 检索管线与确定性门控复现仓库

    GitHub 上的 sathaps/edge-llm-reproduction 仓库在公开设备手册上复现两条文档问答检索管线(基于 Ollama 的 Python 实现和 LangChain 的 C# 移植版),并测试一个检查 LLM 建议动作的确定性门控。项目目前处于搭建阶段,所有数字均来自本仓库记录的运行,未沿用原始工业现场计算机构建的结果。

  19. GitHub · 灵魂体仓库45

    Agenerela:用大语言模型驱动 Unity 游戏 Agent 的框架(早期开发)

    Agenerela 是一个让大语言模型驱动游戏 Agent(NPC、同伴、派系、殖民地)的 Unity 框架,模型只选择行为,由确定性代码验证并执行。原型测量显示,2B 本地模型在提示词内嵌规则时正确动作率 58.5%,加入状态推导 schema、约束采样与确定性验证层后达 95%,并超过无此脚手架的 4B 模型。