practical-agentic-ai:GitHub 上的实用 Agentic AI 项目合集
GitHub 用户 ajimmujawar44 发布 practical-agentic-ai 仓库,收录多个 AI 智能体实践项目,包括股票分析、板球 AI、财经新闻、多领域、Python 函数智能体,以及基于 Groq 和 Ollama 的金融 AI 示例,并附工作流程图与 .env.example 配置模板。
新闻、仓库与研究,按时间排列。
GitHub 用户 ajimmujawar44 发布 practical-agentic-ai 仓库,收录多个 AI 智能体实践项目,包括股票分析、板球 AI、财经新闻、多领域、Python 函数智能体,以及基于 Groq 和 Ollama 的金融 AI 示例,并附工作流程图与 .env.example 配置模板。
一位 Reddit 用户在 RTX 2060 6GB + 32GB DDR4 上用 llama.cpp 运行 Qwen3.6-35B-A3B Q4_K_M 量化模型,实现 131072 tokens 上下文和视觉能力。空 KV cache 时约 600 tok/s prefill、23 tok/s decode,约 90k context 时稳定在 485 tok/s prefill、15 tok/s decode。通过视觉投影器走 CPU(--no-mmproj-offload)和 MoE 专家层部分放 CPU(--n-cpu-moe 39),VRAM 占用控制在 ~5.2 GB 以内。
Sage 是一个在本地硬件上直接运行 AI 模型的工具,基于 Rust 打造的定制引擎,无需联网即可使用,数据处理全部在本地完成。它内置编辑器、终端、文件查看器和安全沙箱,限制 AI 只能访问用户授权的文件夹。Sage 支持 Windows 10/11,需 8GB 以上内存和 5GB 磁盘空间,免费使用,通过 .exe 安装包更新。
StickLLM 是一个可启动的隐私 AI USB,插入后启动锁定的 Debian live 环境,在本机或局域网手机上与本地 LLM 对话,无任何云端调用。默认会话为 RAM 覆盖、重启即清空,持久化配置和下载模型需显式确认;v0.2 增加配对码解锁浏览器聊天与 Models 菜单,内置 Qwen2.5-7B Q5(GGUF)。目前仅支持 AMD 桌面 CPU + 32 GB 内存 + NVIDIA RTX 3090(24 GB)主机,项目采用 MIT 许可。
edge-lm 是一款可在个人电脑本地运行语言模型的 Windows 工具,无需云服务、可离线使用,数据不离开本机。要求 Windows 10/11、至少 8 GB 内存、5 GB 可用磁盘空间,NVIDIA 显卡非必需;首次下载后即可离线运行,适合文档摘要、写邮件、写代码片段和翻译等任务。
llm-finetune-kit 是一款免代码的大语言模型微调工具,可在消费级 NVIDIA 显卡上对 Qwen、DeepSeek 或 LLaMA 进行训练。要求 Windows 10/11、16GB 内存、至少 8GB 显存和 50GB 磁盘空间,训练数据支持 .json 或 .jsonl 格式。输出的模型可导出为 GGUF 或 Safetensors 格式供其他程序使用。
sjoe1244 发布了 llmfan46 的 gemma-4-31B-it-uncensored-heretic 的 ExLlamaV3 4.00bpw-h4-vb4 量化版,权重、head、视觉塔和 KV cache 均为 4-bit,在单张 RTX 4090 上实现约 194K token 上下文池(视觉开启),写入速度 45 tok/s(32K prompt 时 41.9 tok/s)。量化 KL mean 0.0262 与 4.00bpw-h6 相同,困惑度 16.687(BF16 源为 16.586);仅支持 TabbyAPI 或 ExLlamaV3,Apache 2.0 许可,去对齐工作出自 llmfan46。
推荐理由:原文给出了完整的 KL、困惑度、VRAM 和速度实测数据,读者可以据此判断这个 4-bit 量化在一卡上换取超长上下文的代价。
开发者为本地 AI harness OpenLumara 推出新的冥想模块,展示其 WebUI 扩展系统的能力:AI 通过 toolcalls 实时控制浏览器中的完整视听体验。该模块基于 kokoro.js 自定义实现实现了 CPU 上快速运行的语音合成,并加入双耳节拍和与之同步的频闪脑波引导技术,全程无需改动主代码库。模块主要用本地运行的 Qwen3.8 Flash Next UD-Q4_K_XL 辅助编写,无任何云端 AI 参与;用户需获取 OpenLumara 的 dev 分支并安装该模块即可体验。
OpenAI 公布解决 377 道数学题的结果,Reddit 用户随即质疑其是否会向大学提供免费额度并使用他们的数据训练模型。发帖者主张转向本地、离线、私有的 AI,避免个人想法被云端 AI 提供商读取,并呼吁分享其推广私有 AI 的应用。 以上内容仅代表作者观点,考虑到原文信息有限,摘要中未添加原文之外的数据或功能细节。
WildSense 是一个离线优先的 AI 自然探索应用,通过本地运行的 Gemma/Qwen 推理模型和 Ollama 视觉识别,不依赖云端 AI 即可生成户外观察任务。其 Grass Score 以 0-100 分衡量用户把屏幕时间换成真实探索的效果,其中 World/Screen Ratio 占 70%、任务完成占 15%、无手机时间占 10%、反思占 5%,并刻意避免连续签到等成瘾设计。项目采用 Next.js 16 前端与 Python FastAPI 后端,数据存于本地 SQLite,已通过 live ElevenLabs API(eleven_flash_v2_5)验证音频生成。
Pasindu Ranasinghe 在 GitHub 开源了 Model Fit Explorer,一款跨平台桌面应用,自动检测 Windows、macOS 和 Linux 硬件,估算 430 多个 Ollama 模型变体在 GPU VRAM、系统内存或统一内存中的占用,并给出从 Fully GPU 到 Cannot fit 的七档适配分类。估算包含权重、KV cache、缓冲区等项,不做虚构 tok/s 数字,可用 Ollama 实测对比,支持离线使用,无遥测,MIT 许可,从 Releases 下载 .dmg、.msi/.exe、.AppImage/.deb 等安装包。
推荐理由:原文给出了显存的估算公式与七档适配分类,读者可以据此判断本地能否跑动某个模型,而不是只拿到一个笼统结论。
collabosm 是一个免费开源工具,可在用户自己的 Google Colab 账号里租用 A100 GPU 运行 Qwen3.8-27B 或 Qwen3.8-Flash-Next,通过本地页面聊天,按 GPU 运行时间付费,工具本身不收费。A100-80G 跑 Qwen3.8-Flash-Next 每小时约 6.77 compute units(约 $0.68),读写速度约 3,900/97 tokens 每秒;A100-40G 跑 Qwen3.8-27B 每小时约 $0.54,速度约 2,500/50-63 tokens 每秒,支持约 400,000 tokens 上下文和图片输入。
cv-builder 是一个基于 Python/FastAPI 的求职自动化后端,可从 Wellfound、We Work Remotely 等多平台抓取职位,用 SQLite 和 SQLModel 存储并去重,通过 AI 匹配岗位需求后生成 ATS 友好的 PDF 简历。它支持 Claude、Gemini、OpenAI 云端 API 或 Ollama 本地模型(如 qwen2.5:3b)多种引擎,基础简历使用 cv.md Markdown 文件,并通过 Docker Compose 部署运行。
GitHub 上线的开源项目 shopifyseo 是一个面向 Shopify 店铺的自托管 SEO 平台,可将商品目录、Google Search Console、GA4、PageSpeed 和索引数据汇总到本地 SQLite 数据库,约 15 分钟即可完成部署。它提供 AI 优化的 SEO 标题与描述重写、关键词聚类、博客文章生成、图片 alt 文本优化等功能,通过 OpenRouter 和 Gemini embedding API 调用模型,全部数据留在本地,无 SaaS 费用。
Splashboard 是一个为 Splash(inco.ai 开发的 Apple silicon 本地推理引擎)打造的 macOS 菜单栏应用,几步完成安装模型、后台运行与实时监控。它提供 OpenAI 和 Anthropic 兼容的统一 /v1 端点,可从菜单栏快速加载 Qwen3.8-27B 或 Qwen3.6-35B-A3B(MLX 或 GGUF),并支持以会话方式将 Claude Code、Codex 等编码智能体指向本地模型。应用要求 M3 或更新芯片和 macOS 26.4+,以 Apache-2.0 许可开源,非 inco.ai 官方产品。
GitHub 开源项目 Galahad-X Agent 是一个完全在手机上运行的 Android 端侧 AI 智能体,无需 root 或 Termux。它通过 Accessibility Service 实现点击、输入、滚动等屏幕控制,内置 Python 3.14、pip 和 ffmpeg,LLM 自主选择工具并以 Perceive → Act 循环自愈错误,还支持技能存储、持久记忆和视觉理解。用户可配置任意 OpenAI 兼容 API(如 OpenRouter),数据全部留在本地,采用 MIT 许可证发布。
GitHub 开源项目 local-llm-stack 提供一套本地 LLM 运行与测试栈,将 Hermes AI 智能体、LiteLLM 网关(:4000)、llama-swap 模型管理器(:8080)和 llama.cpp 推理引擎串成完整链路,不用 Docker 和云端 API。栈支持 qwen3.5-4b、ministral-3b、ministral-8b、deepseek-r1-7b、qwen3-8b 等模型,测试配置为 Qwen3-8B Q4_K_M 64K context,可通过 chat template 显式控制 thinking/non-thinking 推理模式。
一名有 7 年经验的 Intel ISP/IPU 系统软件工程师制定 30 天 × 8 小时的 LLM 推理工程师转型计划,目标是字节 AML、Moonshot、DeepSeek、MiniMax 等公司,产出 3 个 portfolio 项目、4 篇博客和 1 个 vLLM PR。计划基于 vLLM v0.21.0、DeepSeek V4、Qwen3.8-27B-FP8 与 RTX PRO 6000 Blackwell 96GB(sm_120)单卡环境,分四周覆盖 CUDA 基础、vLLM 源码、Triton kernel、NVFP4 量化与 Mini-vLLM 项目开发。
hanlinwenyuan 发布开源工具 hlwy-ai-checker,用于检查第三方 AI API 是否掺假及渠道一致性,可完全本地部署以保护 API Key 与测试数据。原理是利用大模型被要求随机选数时的统计偏差形成指纹,先以官方 API key 标定,再测试第三方渠道并比较指纹相似度;作者说明这属于统计检测,结果受模型版本、采样参数等因素影响,不能作为商业纠纷的法律或事实依据。
推荐理由:原文讲清了用随机采样统计指纹检测第三方 API 渠道真伪的原理和使用流程,方法可复现且可本地部署。
该仓库发布了一套在 16GB Apple Silicon iMac/Mac mini 上完全本地运行 Hermes Agent 的方案,用 Qwen3 8B Q4_K_M 配 64K 上下文与 8-bit KV cache,无需 API 密钥、无云端。Hermes 硬性要求至少 64000 token 上下文,默认 f16 下 64K 注意力内存达 9.00 GiB 不可用,改用 q8_0 后降至 4.78 GiB,llama-server 总占用约 10.47 GiB,剩余约 5.53 GiB。
推荐理由:给出了16GB统一内存跑64K上下文的实测内存账本和完整部署脚本,方法可直接复用到类似的本地Agent配置。
IncarnaMind 是一款本地优先桌面应用,支持 macOS、Windows 和 Linux,可在写作中直接提问,答案带页码引用并自动核对原文是否含该引文。它索引 PDF、TXT 和 Markdown 文件,内置 CPU 运行的嵌入模型(一次性下载 135 MB),也可换用 OpenAI、Google 或 Ollama 本地模型,无账号无服务器。v1 尚在开发中,暂无正式发布。
KSM AIoT(UPN "Veteran" Jakarta 学生社团)开发了 Nexo,一个基于本地 LLM(Llama.cpp 运行 Gemma 4 E2B GGUF)与 MCP 的 Discord 智能社区助手。它可管理社区活动、双向同步 Google Calendar、通过 @Nexo 或 /tanya 命令进行带上下文的对话,并以 Pydantic 严格校验的工具调用实现提醒、投票、消息清理等功能。
Sentient 在 GitHub 开源 v3 alpha 版,是一个运行在用户自己电脑上的个人助手,可执行长任务、按计划或触发条件运行,并支持语音和 Telegram 交互。它会记住用户偏好并构建可修正的用户画像,每晚合并重复记忆、解决冲突并记录变更日志;支持 Ollama 本地模型或自备云模型密钥,数据存于单个 SQLite 文件,本地模型下数据不出本机,项目采用 GNU AGPL v3 许可。
推荐理由:原文给出了本地个人助手的记忆整理机制与架构说明,每晚合并重复记忆并解决冲突,可了解本地化长期记忆的做法。
码表(mabiao)是一款本机桌面应用,扫描 Claude Code、Codex、Cursor 等各 AI 编程 CLI 留在本地的会话数据,归一成消耗记录,展示 token 用量、工作时间线与完整事件流,当前公开版为 v0.1.4,提供 macOS、Linux、Windows 安装包。工具默认只读、不上传本机消耗记录,聚合结果缓存在本机 sqlite;支持导出 CSV / JSON、月度预算通知,可分别展示本机 5 小时 / 7 天估计窗与 Claude、Codex、Cursor 等 9 家账号的官方额度。项目以 MIT 许可证开源,构建需 Node.js 22.22+ 与 pnpm 9。
Fill-Vault 是一款利用本地 LLM 根据个人文档自动填写各类表单的浏览器扩展。每个填写值都附有原文引用作依据,无依据的字段保持空白。所有处理均在设备本地完成,数据不会离开用户设备。
mradermacher 在 Hugging Face 发布 Pyrz-8B-Instruct-Uncensored-i1-GGUF 量化模型,默认提供 Q4_K_S 版本。该模型可通过 llama.cpp 在本地运行,支持启动 OpenAI 兼容服务器或终端推理,也可配合 Ollama、Docker Model Runner、LM Studio 等工具使用,并给出了在 Pi、Hermes、OpenClaw 等工具中的配置方法。
Ironbees 为 .NET AI 开发带来 GitOps 式声明式 AI Agent 管理,用 agent.yaml 加 system-prompt.md 文件定义 Agent,由框架负责加载、路由和编排,并可接入任意 LLM 后端。它提供关键词、嵌入和混合三种智能路由,记录各 provider 的 token 用量并用 TokenMeter 计价,支持 IronHive 与 Microsoft Agent Framework 后端切换而无需改动 Agent 定义。包体系包括 Ironbees.Core、Ironbees.AgentMode、Ironbees.Ironhive、Ironbees.AgentFramework 和 Ironbees.Autonomous。
cuongthai.com 的 monorepo 是一个越南语/英语双语学习平台,由一人设计运营,大部分代码由 AI 编码智能体 Claude Code 按任务拆解编写。平台含 592 门课程、12,100 节课、1,058 个双语字幕视频(330,936 句对齐),API 基于 Node.js/Express + PostgreSQL(319 张表、150 个迁移),桌面端 Electron 已发布 130+ 版本。LLM 网关支持按功能路由模型、按用户 token 配额与每日支出限额,并自托管 Qwen 模型。
webAI 于 9 月 30 日发布 TwIL LM3 Pro,这是一个基于 IBM Granite 4.2 3B 的 3.66B 模型,专门针对形式逻辑任务微调,其逻辑综合分达 55.4,优于 Granite 基座的 43.1,并以不到一半的参数量追平 Qwen3-8B 的 53.4。训练采用 LoRA SFT、checkpoint merging 和针对程序化验证器的 RL。Q4_K_M GGUF 仅 2.09 GiB,可在 CPU 或 4 GB VRAM 上运行,支持 Ollama、LM Studio 和 llama.cpp,但许可证为非商业用途。
GitHub 开源项目 ABHI's AI 是一个个人 AI 助手和桌面操作层,整合多服务商 AI 对话、TTS/STT 语音、本地文件夹访问、RAG 知识库、持久记忆、联网搜索和权限管控的电脑操作。它支持 Groq(Qwen 3.8、GPT-OSS 120B/20B、Llama 3.3)、Gemini、OpenAI(GPT-4o、o3-mini)、Claude 3.7 Sonnet、DeepSeek(V3、R1)及 Ollama、OpenRouter 等兼容端点,前端采用 React + Vite,后端为 FastAPI。API 密钥仅存于本地,文件操作默认只读并需交互式确认,项目采用 MIT License。
开发者 Yernur 发布开源工具 Operator(npm 包 pzero-operator),一个终端内的代码智能体,可读写文件、执行 bash、操作 git,并跨会话记忆任务与事实。默认模型 qwen3-8 拥有 262K 上下文并支持图片,也可接 gemma4、gpt-oss 及 localhost:11434 的 Ollama 模型。项目采用 MIT 协议,另提供 Electron 版 Operator Desktop,支持 macOS/Linux/Windows。
开源项目 Home Assistant - LED Controller 通过 ESP8266(NodeMCU 或 Wemos D1 mini)控制 LED,可扩展 MCP23017 将 LED 数量从 5 个增至 19 个。应用覆盖 Web、Android(Capacitor)和 Windows(Electron,生成 NSIS 安装器),支持 0-100% 亮度、固定/呼吸/闪烁/频闪模式、法语语音命令,并可选用 Ollama 驱动的 AI 模式与唤醒词「Irina」。
OnTechnologyCo 开源了 LLM_Tools,一个 Windows 桌面应用,通过 ConPTY 挂接真实 CLI 并用 xterm.js 渲染,让 Claude Code CLI、OpenAI Codex CLI 和 Google Antigravity CLI 以标签页形式并行使用,斜杠命令、MCP 和技能与原终端一致。应用支持每标签选择 CLI 与工作文件夹、恢复历史会话、多账号登录与限额显示,并可在不同 CLI 和账号间通过转录重写移交对话上下文;代码采用 MIT 许可证,README 附有大量实测验证记录和尚未验证事项。
推荐理由:作者用 ConPTY 接真实 CLI 而非模拟终端,并给出跨 CLI 会话交接与逐项实测记录,方案细节可直接参考。
开发者 dengmengmian 发布 CodeLeveler,一个本地优先的编码 Agent,可在你的仓库中读代码、改文件、跑构建测试并使用 Git,留下可审查的变更。会话状态存在本地机器上,支持 Zhipu BigModel (GLM Coding Plan)、DeepSeek、Moonshot/Kimi、OpenAI、Anthropic 等 OpenAI 兼容端点,提供 terminal UI、Web UI 和 headless CLI,覆盖 macOS、Linux、Windows。可通过安装脚本、Homebrew 或源码(Rust 1.90+、Node.js 22+)安装。
C_manager 是一个 Windows 桌面工具,基于 Tauri 2 与 Rust 内嵌 llama.cpp,可扫描 C 盘大文件、用 GGUF 模型或 OpenRouter/OpenAI 兼容接口解释文件用途,并按红黄绿给出保守清理建议。作者用它研究了 Qwen3.5 小模型的量化、微调与 RAG:0.8B 四组实验固定关键词检查为 8/24、5/24、13/24、21/24,Qwen3.5-4B Q4_K_M 的 RAG 组复核为 14/24,仍未达可靠性目标。深度参数修复后 3 层扫描耗时 3.56 秒,但并非“完整扫描提速 28 倍”。
LLM-SVA 发布公开审查包,这是一个用于 Java SQL 注入候选分析的命令行研究原型,可导出 source-to-sink 路径、调用图和近似诊断。包含论文冻结版 evaluated-v0.3.4 与开发版 latest-v0.3.5-dev,扫描完全本地运行、无需 API key 或 JVM。冻结版 504 案例基准结果为 TP=78、FP=35、TN=197、FN=194,代码采用 MIT 许可证,尚未正式发表。
一位用户在 8x NVIDIA T4 的 Asus ESC4000 G3(128GB DDR4 RAM)上寻求比 llama.cpp 更快的 Qwen3.5-9B 部署方案,目标是服务约 10-15 个并发用户。目前 8 个实例运行 Qwen3.5-9B-Q5_K_XL,共 44 个 slot,每 slot 持续生成 25-40 tps,prefill 约 1400 tps。T4 不支持最新 fp8 emulation,用户希望用 vLLM 运行 Qwen3.5-9B-AWQ-INT8 但不愿额外花钱。
Arca Assistant 是一个自托管的 AI 个人理财与投资组合追踪应用,面向巴西投资者,可将股票、REITs(FIIs)、固收(CDB、LCI、Tesouro Direto)、国际 ETF、加密货币和实物资产跨银行券商整合管理。它按 Arca 方法(25/25/25/25)或 Arca Grão(30/10/40/20)等目标配置进行再平衡,并提供 AI 资产扫描和 5–30 年长期预测。用户可通过 Claude Code、OpenAI Codex 或 Cursor 驱动,支持截图、PDF、录屏导入及通过 Meu Pluggy 接入 Open Finance。
llm.rb 是一个在 CRuby 上构建智能体 AI 应用的运行时,默认零运行时依赖,用单一 API 支持 14+ 提供商,项目已运行三年多、仍处早期开发,需 Ruby 3.4+,通过 gem install llm.rb 安装。
GitHub 开源 Video-shipcut-Skill,以 Agent Skill 形式组织长视频二次剪辑自动成片流程。系统经 G0–G5 六个节点处理,含人工审核门禁与回显审核卡,输出可播放成片与交付证据,配 BGM、字幕、转场、响度四个功能专员 Skill。最新版本 v1.23.1 发布于 2026-10-10。