跳到正文
10月24日周六
  1. GitHub · 去对齐工具与仓库22

    dahchenoor-cmd 开源 AI 红队测试作品集仓库:对抗性机器学习评估与防御实践

    dahchenoor-cmd 在 GitHub 发布 AI 红队测试作品集仓库,系统化整理对抗性机器学习评估、攻击 PoC 与防御缓解措施,覆盖本地及企业级 LLM 架构。仓库包含 10 个模块,从环境搭建到企业模拟审计,基于 Ollama、vLLM 运行 Llama-3、Mistral、Qwen 等开源模型,使用 garak、PyRIT 等工具,并对照 OWASP Top 10 for LLM Applications(2026)、MITRE ATLAS 与 NIST AI 100-2e2025 等标准。所有测试均在本地容器化环境中进行,数据全部为合成数据。

  2. GitHub · 去对齐工具与仓库62

    Warden 发布:拦截 MCP 工具调用的 Mac 安全网关

    dbalchunas2-pixel 发布 Warden,一个原生 Mac 应用,作为 MCP 客户端(Claude Desktop、Claude Code、Cursor、Windsurf、Cline)与 MCP 服务器之间的安全网关,拦截每个工具调用并决定是否执行。决策管线含正则规则引擎(<10ms)、NVIDIA Nemotron LLM 分类(经 Nebius Token Factory)、启发式回退与熔断器,全部 fail-closed,并记录 JSONL 审计日志。内置对抗评测(seed 1337,22 次攻击+6 个良性对照)显示攻击检出率 100%、误报 0%、平均判定延迟约 3.5s;洪泛测试 30/30 拦截且仅 3 次调用消耗 LLM 预算。

    推荐理由:原文给出完整决策管线和可复现的对抗评测数据,包括100%攻击检出率、0%误报和约3.5秒平均延迟,便于评估其实际拦截能力。

  3. GitHub · 去对齐工具与仓库62

    PocketMind 开源:直接运行在 Android 手机上的常驻 Agent

    badhope 发布 PocketMind,一个通过 Termux 运行在 Android 手机本地的常驻 Agent,内置 41 个工具(SMS、通话、GPS、传感器、shell、文件等),数据全部存于本地 SQLite,仅推理调用外部 LLM。支持服务端强制的三级审批模型、Plan/Act 双模式、定时任务、Telegram 远程控制,并可通过 stdio MCP Server 让 Claude Desktop / Cline / Codex 远程操作手机;项目附 39 秒演示视频、能力矩阵文档和一键回归测试脚本,采用 Apache-2.0 许可证。

    推荐理由:原文给出了与桌面 Agent 和 GUI 自动化方案的具体对比,以及审批模型、离线能力和工具数量的实现细节。

  4. GitHub · 去对齐工具与仓库43

    AI-Powered-Multimodal-RAG-System:跨文本、图表、PDF 表格与图像的多模态 RAG 系统

    开源项目 AI-Powered-Multimodal-RAG-System 实现对 PDF 内文本、表格、图表和图像的多模态检索增强生成,采用稠密向量加关键词的混合检索与 CLIP 风格图文联合嵌入,Vision-LLM 后端可切换 Qwen2-VL、GPT-4o Vision 或 Claude Vision。在内部 500 条查询评测集上,综合 Hybrid MRR@5 达 0.83、Recall@10 达 0.91,端到端回答延迟约 1.4 s(单张 NVIDIA T4、本地 Qwen2-VL-7B)。系统默认用 ChromaDB 零配置运行,也可切换 Qdrant 用于生产部署。

  5. GitHub · 去对齐工具与仓库42

    Vhagar181 开源 llm-adaptive-learning:LLM 动态环境自适应学习实现(ICML 2025)

    Vhagar181 在 GitHub 开源论文 "Adaptive Learning Strategies for Large Language Models in Dynamic Environments"(ICML 2025)的实现,支持 LLM 实时适应动态环境且避免灾难性遗忘。该方法在多类动态场景上较基线提升 16.8%–19.1%,如时序变化场景从 69.8% 提至 88.9%,采用轻量更新机制无需全量重训,代码以 Apache 2.0 许可发布。

  6. GitHub · 去对齐工具与仓库57

    freemodel-sync 开源:自动探测并排序免费 LLM 后写入现有工具配置

    ndwlbj 发布 freemodel-sync,一个发现、探测并排序免费 LLM,再把可用模型和备选写入现有工具配置的开源工具。它从 OpenRouter 公开目录发现 :free 模型,用极小流式请求探测可用性与首 token 延迟,按可解释评分排序,支持 OpenRouter 与 Groq,写入时幂等、带备份并支持 --dry-run,可选 Telegram 或 webhook 通知主模型变更。仓库还通过 GitHub Actions 每日运行免费模型健康检查并公开快照数据。

  7. GitHub · 去对齐工具与仓库47

    AgentFlow:连接 Claude、Codex、Copilot、Gemini 等代码智能体的通用编排桥接工具

    开源自托管工具 AgentFlow 发布,可将 Claude、Codex、Copilot、Gemini 等 AI 编码智能体接入 Telegram、Discord、Slack、Webhook 等外部平台,采用事件驱动架构进行消息路由与编排。其核心功能包括跨平台会话感知、Human-in-the-Loop 审批门控、事件溯源日志、智能体回退链与可选端到端加密,支持通过约 10 行 Python 适配器扩展新平台,并提供 Docker 镜像(agentflow/agentflow:2026.1.0)与 Web 监控界面。

  8. GitHub · 去对齐工具与仓库31

    STE Slicer 7.10 插件 MCP-STE-Slicer:为切片器接入 AI 助手

    hikinokomora 发布面向 STE Slicer 7.10(Stereotech)的插件 MCP-STE-Slicer,添加 AI 助手聊天:用户附上模型与技术任务书或用文字描述需求,助手自动选择 3D 或 5D 打印模式、材料与设置,定向模型、切片并保存项目和 G-code,并解释每项决策。插件通过 OpenAI 兼容 API 连接 LLM,需 Windows 10/11 与 Stereotech Hybrid 530 V5.2.4 打印机,5D 模式需激活 ATSS 许可证。

  9. GitHub · 去对齐工具与仓库31

    ctrlProgrammer 开源 os-agents-evals:一个数据集对比多模型准确率、成本与延迟的 CLI

    ctrlProgrammer 在 GitHub 发布 os-agents-evals,一个用同一数据集对比多个模型准确率、成本与延迟的 CLI。以 Oxford-IIIT Pet 猫犬品种识别为示例(测试集 3,669 张图、37 个品种),20 张图实测中 JEV 准确率 90%、$0.06/1k 查询、p95 延迟 0.32s,Gemini 2.5 Flash 为 95%、$1.64/1k 查询、p95 延迟 4.84s。每个模型使用独立 JSON 提示词,用例与图片不进 git。

  10. GitHub · 去对齐工具与仓库36

    capital-ui-kit:带 Zod 校验的金融科技 React 组件库与提示词生成页面工具

    GitHub 上的 capital-ui-kit 是一套基于 Zod schema 的类型化金融科技 React 组件库,含 CurrencyCounter、PrivacyBadge、DebouncedSearch 等组件及经校验的 JSON 布局渲染器。它支持 bring-your-own-key,从终端用提示词生成页面:模型输出 JSON 布局,经 Zod 校验后渲染或导出 .tsx,失败自动重试一次,支持 Gemini、Claude、OpenAI 兼容 API 及 Ollama 本地模型。项目仍在开发中,CLI 和文档站点在规划中。

  11. GitHub · 去对齐工具与仓库18

    优化 LLM 在多任务环境中的上下文推理:论文代码仓库(待发布)

    John Smith 等人的论文《Optimizing Large Language Models for Contextual Reasoning in Multi-Task Environments》正在 COAI 2025 审稿中,其代码仓库即将发布。论文提出优化策略以增强 LLM 跨多任务的上下文推理,实验结果显示在动态环境中适应性更优。仓库将包含实现代码、benchmark 结果、预训练模型检查点及文档教程。

  12. GitHub · 去对齐工具与仓库63

    Purser:在 Claude Code 内编排后台编码智能体的开源插件

    neurot1ca 发布 Purser,一个在 Claude Code 内协调后台编码 CLI(Codex、OpenCode、agy、Cursor 等)的开源编排插件,worker 在隔离 Git worktree 中改文件跑测试。主 Claude 负责规划与审查,任务回执最多 250 token,仓库实测 dispatcher 首次请求上下文约 12K token,比通用 subagent 的 55K 小约 78%;支持模型分级路由、独立 Reviewer、自动 compact 与配额恢复,本地运行,MIT/Apache 2.0 双许可。

  13. GitHub · 灵魂体仓库10

    enhancing-llms:先进微调技术提升 LLM 在 GLUE 和 SuperGLUE 上的表现

    GitHub 仓库 enhancing-llms 发布论文《Enhancing Large Language Models with Advanced Fine-Tuning Techniques》的实现与实验,探索面向领域任务的新型微调方法。该方法在 GLUE 上取得 92.5%(较基线 +8.3%)、SuperGLUE 上取得 89.3%(+12.5%)的 SOTA 结果,并提供高效训练管线,代码以 MIT 许可开源。

  14. GitHub · 灵魂体仓库36

    USB AI:基于 Rust 的便携本地 AI 助手,可整个装进 U 盘随身携带

    USB AI 是一款 Rust 编写的便携式本地 AI 助手,通过 llama-server 在本机运行 GGUF 模型,无需账号或云端 API,整个文件夹可放进 U 盘随身携带。支持与本地模型聊天、导入最大 20 MB 的 PDF/TXT/Markdown 文件并按关键词检索、导出 Markdown 对话,提供 Qwen 2.5 0.5B/3B/7B 和 Gemma 2 9B 等模型,下载时校验 SHA-256。提供 Windows x64 和 macOS(arm64/x86_64)便携包,历史 MIT 许可版本仍可用,未来版本改用 USB AI Personal Use License v1.0,仅限个人和非商业免费使用。

  15. GitHub · 灵魂体仓库51

    ARM-Sparse 实测 Llama 3.2 1B 与 TinyLlama 1.1B 在 Apple M2 上的 FFN 块稀疏加速收益

    ARM-Sparse 项目在 Apple M2 CPU 上实测 Llama 3.2 1B 与 TinyLlama 1.1B 的 FFN 块稀疏推理,结论是 packed B8 块内核只在 40-50% 稀疏度才快过 Accelerate 稠密基线,而此时模型质量已不达标(Llama 在 20% 处困惑度 +8.773% 失败)。在 10-20% 质量门槛内,只有采用 neuron-major 权重的 per-neuron 执行器跑块对齐 mask 能比稠密快百分之几(真实 mask +0.9% 到 +3.5%,合成 mask 最高 +7.3%),且质量上限决定了收益上限,不构成端到端可部署加速;仓库附带 99 项自动化测试的完整复现包。

  16. GitHub · 灵魂体仓库25

    bharatlas(urbanmorph/geodata):印度地理数据目录、REST API 与 MCP server 开源仓库

    bharatlas 提供印度地理数据可视化目录,覆盖从邦到村级行政边界及 63k pincode 多边形,支持 Parquet、PMTiles、GeoJSON、KML、Shapefile 下载与动态筛选。仓库内置 REST API(/api/v1,无需 key、按 IP 限流)、支持 LLM 使用的 MCP server(npx bharatlas-mcp@latest,含 17 个工具),并可作为 Claude Code 插件安装。技术栈为 Vanilla TypeScript + Vite + MapLibre GL JS,托管于 Cloudflare Pages/R2/D1。

  17. GitHub · 灵魂体仓库28

    InferenceEngine.Core:基于 ONNX Runtime 的 .NET 跨平台 AI 推理库

    开源 .NET 库 InferenceEngine.Core 通过统一的 IInferenceEngine 契约封装 ONNX 推理的模型下载缓存、硬件检测、warmup 和张量前后处理等通用流程。硬件加速支持 Windows 的 DirectML、macOS 的 CoreML 和 Linux x64 的 MIGraphX(ROCm),均带 CPU 自动回退,并支持 IAsyncEnumerable 流式解码与 KV-cache carry-back。示例项目内置完整 YOLO11 人脸检测管线,模型首次加载时自动下载缓存,MIGraphX 编译的 .mxr 程序可持久化以跳过约 1–2 分钟的重复编译。

  18. GitHub · 灵魂体仓库72

    agent-countercheck v0.14.0 发布:用锁定检查验证 AI 编程智能体的完成声明

    datacrate360 发布开源工具 agent-countercheck v0.14.0(Rust,MIT 协议),在 AI 编程智能体声称完成时,从基线提交读取锁定的检查项、复制文件到干净目录并在沙箱中重跑,生成带 SHA-256 封签的回执,防止智能体跳过或改弱测试。支持 Claude Code、Hermes Agent、Codex、Cursor 等,通过 Stop hook、verify 命令或 GitHub Action 接入,覆盖 macOS、Linux 和 Windows。作者基准测试中 GPT 6.1 的假 done 声明从 7 降到 3,DeepSeek V4 Pro 从 7 到 6,中位数运行约增加 1 秒。

    推荐理由:作者给出基准数据展示假 done 声明如何被拦截,方法可迁移到自己的 Claude Code 或 CI 工作流里直接复用。

  19. GitHub · 灵魂体仓库49

    InferiaLLM:用于生产环境运行 LLM 的自托管操作系统

    InferiaLLM 是一个自托管的 LLM 生产运行操作系统,位于应用与 AI 基础设施之间,提供访问控制与 RBAC、速率限制与 token 预算、毒性/PII 内容扫描、OpenAI 兼容推理网关、GPU 编排和审计日志等平台能力。整个平台以单端口应用(APP_PORT 默认 8000)部署,由控制面加数据面组成,配套 Go 编写的 inferia-worker GPU 节点代理和 InferiaAllSpark 一体化部署方案,支持自托管与云端算力。

  20. GitHub · 灵魂体仓库13

    LLM 多任务环境上下文推理优化研究(COAI 2025 在审)

    一篇题为《Optimizing Large Language Models for Contextual Reasoning in Multi-Task Environments》的论文提出优化策略,以提升 LLM 在多任务环境中的上下文推理能力,实证结果显示其在动态环境中适应性更佳。该论文目前在 COAI 2025 会议审稿中,仓库标注"To be released",完整实现代码、实验配置、Benchmark 结果、预训练模型 checkpoint 和文档教程尚未发布。

  21. GitHub · 灵魂体仓库55

    semantic-cache-proxy:基于 Ollama 和 Redis Stack 的本地 LLM 语义缓存代理发布

    作者发布了面向本地 LLM 的语义缓存反向代理 semantic-cache-proxy,将提示词嵌入索引进 Redis Stack 的 HNSW 向量索引,相同或语义改写的查询命中缓存后延迟低于 15ms,绕过本地 GPU/CPU 推理瓶颈。系统用 SHA-256 对 system prompt 和参数做哈希分区,相似度阈值 ≥ 0.88 判定命中,兼容 OpenAI /v1/chat/completions 接口,并通过 X-Cache-Lookup 等响应头和 Streamlit 仪表盘提供实时遥测。项目 100% 本地运行、无需付费 API key,依赖 nomic-embed-text 嵌入模型,仓库附部署步骤与延迟基准脚本。

    推荐理由:给出完整的架构流程、缓存阈值和部署命令,想把本地 LLM 推理换成语义缓存的读者可以直接照着搭建。

  22. GitHub · 灵魂体仓库17

    Beamoaadvance 开源 llm-adaptive-learning:ICML 2025 论文的 LLM 动态环境自适应学习实现

    Beamoaadvance 在 GitHub 开源了 ICML 2025 论文 "Adaptive Learning Strategies for Large Language Models in Dynamic Environments" 的实现,使 LLM 能在动态环境中实时自适应调整。该方法支持持续学习而不发生灾难性遗忘,无需完整重训练即可轻量更新,在多类动态环境中较基线提升 16.8%-19.1%(如 Temporal Changes 场景从 69.8% 提至 88.9%)。项目采用 Apache 2.0 许可证。

  23. GitHub · prompt 工程新仓库48

    Quill 开源配套仓库:用 Qwen2.5-1.5B-Instruct 与 Claude API 实测 prompt 工程课程各技术

    开源仓库 Quill(MIT 许可)是法语课程「Prompt Engineering Avancé & Ingestion de Contexte Large」的配套项目,用真实模型对发票、订单、合同条款等业务任务自动评分。实验采用本地模型 Qwen2.5-1.5B-Instruct(Apache 2.0,约 3 GB,4 GB GPU 即可运行),并可通过 quill/claude.py 调用 Claude API 测试结构化输出、严格工具调用与 prompt 缓存。

  24. GitHub · 3D 生成新仓库10

    DocuMind-AI:一个 RAG 文档问答项目开源仓库

    GitHub 新开源仓库 Umair-Yasin-dev/DocuMind-AI 上线,包含 frontend 目录、main.py、rag_test.py 及 requirements.txt 等文件,rag_test.py 表明其与 RAG 检索相关。仓库还带 vercel.json 和 runtime.txt,可部署到 Vercel,另附 data.pdf 示例数据。

  25. GitHub · 3D 生成新仓库23

    PixelBudget:延迟与内存约束下的自回归图像生成研究

    UIT(VNU-HCM)研究员 Nguyen Huynh Dang Nhut 发布 PixelBudget 项目,研究在计算预算(GPU VRAM、缓存容量、内存带宽)与图像质量之间的权衡,在 NVIDIA T4 GPU 和多核 CPU 上实现像素级自回归生成。研究对比了自定义解析反向传播与 PyTorch autograd 的开销,并分析逐像素解码与并行 patch 生成的内存带宽瓶颈。项目含 68 个 cell 的 Colab notebook 及离线 HTML 报告。

  26. GitHub · 3D 生成新仓库22

    Research RAG Engine 开源:面向研究论文的检索增强生成引擎

    GitHub 新开源的 Research RAG Engine 是一个面向研究论文的 RAG 项目,支持 PDF 发现与元数据提取、文档解析与分块、SentenceTransformer 嵌入、Qdrant 向量索引及 top-k 检索,并提供浏览器检查面板。后续计划包括检索质量评测、上下文构建、端到端 RAG 生成、多查询检索、重排序与混合检索,以及 Agentic 研究工作流。

  27. GitHub · 3D 生成新仓库18

    Nakulov 开源 ui-design-system:平台无关的 UI 设计系统契约与 AI 辅助组件生成

    GitHub 新仓库 Nakulov/ui-design-system 提供平台无关的 UI 设计系统契约、schema 与 AI 辅助组件生成,开发流程基于 GitHub Issues 和 Backlog 到 Done 的看板管理。仓库内置 contract-authoring、groom、take 三个技能(skills)用于辅助契约设计与任务处理,并提供 validate.py、sync.py、validate_model.py 等工具校验契约和模型示例,契约结构由 contract.schema.json 和 values.schema.json 元 schema 定义。

  28. GitHub · 3D 生成新仓库40

    AI 面试评估工具 Manas-11/AI-interviewer-evaluation 开源发布

    GitHub 新开源仓库 Manas-11/AI-interviewer-evaluation 提供一个可部署的 Streamlit 应用,用于评估面试答案。它按正确性、相关性、完整性和清晰度四项各 0–10 分打分,用 Pydantic 校验转录数据,并暴露匹配与缺失概念作为证据。配置 GEMINI_API_KEY 或 OPENAI_API_KEY 时可调用托管模型(如 gemini-3.8-flash),否则使用确定性本地评估,保证可复现且保护候选人数据隐私。

  29. GitHub · 去对齐工具与仓库44

    SystemPrompt Core:Rust 控制平面库 systempromptio/systemprompt-core

    SystemPrompt Core 是一个用于自运营控制平面的 Rust 库,提供身份认证(OAuth2/OIDC)、Anthropic 兼容的模型网关、受治理的 MCP 工具执行、策略执行与审计,数据记录在 PostgreSQL。它通过扩展契约在编译期注册路由、工具与任务,要求 Rust 1.96+ 和 PostgreSQL 18+,采用 BSL-1.1 许可,生产使用需商业授权,每个版本发布四年后转为 Apache-2.0。

  30. GitHub · 去对齐工具与仓库41

    BiliDude:B 站视频侧边栏小电视助手 Chrome 扩展

    BiliDude 是一款 Chrome 扩展,读取 B 站视频字幕交给所选大模型,一键生成总结、目录或金句,也可直接提问,点击回答中的时间戳即可跳转视频。内置 DeepSeek、OpenAI、Anthropic、Google Gemini 和 OpenRouter,支持任意 OpenAI 兼容接口;无服务器、不收集数据,API Key 仅存本地。

  31. GitHub · 去对齐工具与仓库45

    QFF:量化 Hugging Face 模型发布方声称数据的对照工具库 quant-fidelity-frontier

    GitHub 上的 Quant Fidelity Frontier(QFF)按发布方自己的声称指标(KLD、perplexity、top-1、benchmark、体积)排列各模型的 Hugging Face 量化版本,标注哪些量化更高效,所有数字逐字取自模型卡并附来源链接,不重新测量。项目覆盖 Qwen3.8-Flash-Next(481 个仓库)、DeepSeek-V4.1-Flash、GLM-5.3-Flash 等模型,提供只读 MCP server 供智能体查询量化声称与效率前沿,代码 MIT 许可、数据集 CC BY 4.0。

  32. GitHub · 去对齐工具与仓库27

    TestPilot AI:QA 工程师开源的 AI 测试用例生成工具(SheetalK01/testpilot-ai)

    QA 工程师开源的 TestPilot AI(SheetalK01/testpilot-ai),用 Claude(默认 claude-opus-5-5)读取用户故事和验收标准,生成 3–15 条经 schema 校验的测试用例,支持 Playwright 与 Excel 导出、mock AI 模式及明暗主题 UI。项目采用 React 18 + Spring Boot 4.1 + FastAPI + MySQL 8 架构,含 261 个覆盖单元、API、E2E、无障碍与性能各层的自动化测试并在 CI 中运行。

  33. GitHub · 去对齐工具与仓库31

    goya4140/minimind-training-lab:从零训练 LLM、VLM 与 Video-Omni 的可复现学习实验室

    goya4140 开源的 minimind-training-lab 是一个面向学习的可复现训练项目,沿同一能力路线从零训练 MiniMind LLM(Decoder-only,64M)、VLM 和 Video-Omni(视频+文本输入→文本输出)。LLM 已完成预训练 317,048 步与 SFT 40,000 步,2026-10-24 因本地空间不足迁至服务器进行 CUDA 重训,正式 run mm64-cuda-20261024T075332Z 已启动;VLM 与 Video-Omni 代码已实现,服务器重训待启动。项目交付模型代码、训练配置、评估与中文学习报告,代码采用 Apache-2.0 许可。