跳到正文
10月22日周四
  1. GitHub · 去对齐工具与仓库45

    thevibeworks/claude-reads-hn:Claude 每日 4 次自动阅读 Hacker News 并生成毒舌摘要

    GitHub 开源的 claude-reads-hn 项目让 Claude Code 每天在 01:00、06:00、11:00、16:00 UTC 定时醒来,读取 Hacker News 前 100 条热帖、评论和原文,从中挑选 5 条写出毒舌摘要并提交到仓库。项目利用 Claude Code 5 小时配额重置机制,摘要以 org 格式存档并生成静态站点,可通过 Bark、Telegram、Discord 接收通知。

  2. GitHub · 去对齐工具与仓库22

    doc-haus:基于 OpenCode 的本地法律文档工作区

    doc-haus 是一个基于 OpenCode 构建的本地法律文档工作区,可将文档上传至 matters、进行有来源依据的问答,并生成供律师审阅的草稿与红线修改。启动脚本检查 Bun 1.4.0+ 及 Deno 2、Python 3.10+、markitdown、Poppler、Tesseract、LibreOffice Writer 等工具,支持本地自托管与 docker compose 部署,新装无需凭据即可启动。

  3. GitHub · 去对齐工具与仓库42

    AIMC:面向个人开发者的轻量级 LLM 网关与优惠情报聚合工具

    AIMC(AI Model Compass)是一款轻量级 LLM 网关,兼容 OpenAI SDK、零侵入透传请求,持续监控 DeepSeek、Qwen、GLM 等厂商定价与活动,按时段、价格、配额、频限自动路由到最省钱渠道。其 Prompt Cache 集成实测 7 天命中率 91.8%、省 ¥137;支持 aimc- 前缀多用户 Key 按人记账与限额,并提供 Dashboard、周报与告警。

  4. GitHub · 去对齐工具与仓库22

    Esxyko 开源 llm-classification-finetuning:基于 Qwen3-4B 的 LLM 成对分类微调工具库

    Esxyko 在 GitHub 发布 llm-classification-finetuning 项目,用于 Kaggle LLM Classification Finetuning 竞赛,比较两个模型对同一提示词的回答并预测 A 胜、B 胜或平局。项目支持冻结 Qwen3-4B 主干加可训练成对分类器,以及 LoRA 和 4-bit NF4 QLoRA 训练,提供防泄漏的 80/20 分层划分、holdout 验证和混淆矩阵报告。训练需 1 块 CUDA GPU,提交推理需 2 块。

  5. GitHub · 灵魂体仓库34

    joyjeni 开源 arc-agi2-hybrid-solver:三层混合架构冲击 ARC-Prize-2026 竞赛

    GitHub 仓库 joyjeni/arc-agi2-hybrid-solver 发布面向 ARC-Prize-2026 的三层混合 ARC-AGI-2 求解器,目标 LB 35–45%。方案由 Tier-1 的 18 个确定性规则求解器、Tier-2 的 LLM 程序合成(Qwen3-4B 微调模型写 Python,最多重试 3 次)、Tier-3 的 8 提示词多数投票 Chakra Ensemble 组成,模型 qwen3_4b_grids15_sft139 以 4-bit 加载于 Kaggle GPU。与 NVARC 的 test-time training 不同,该流水线不做 LoRA 适配,代码以 MIT 协议开源。

  6. GitHub · 灵魂体仓库37

    chatflow-agent:快速构建 WhatsApp、Telegram 多智能体系统的开源框架

    开源 Python 框架 chatflow-agent 可让开发者在几秒内构建用于 WhatsApp、Telegram 和 Webhooks 的自主多智能体系统。核心仅依赖 google-genai、pydantic、httpx 三个运行时依赖,包体积约 72 KB,支持 Google Gemini、Ollama 本地运行的 Gemma、xAI Grok、OpenAI(GPT-4o)和 Anthropic Claude 一键切换,并内置会话并发锁、Webhook 防 500 保护及基于客户意图的智能体间自主转接。通过 pip install chatflow-agent 即可安装。

  7. Reddit · r/LocalLLaMA53

    Izwi 0.1.0 发布:Mac、Linux 和 Windows 上的全本地语音 AI(TTS、ASR、语音对话)

    作者发布 Izwi 0.1.0,这是数月公测后的首个稳定版,Apache-2.0 免费开源,提供桌面应用、Web UI、CLI 和本地服务器。支持本地 ASR→LLM→TTS 实时语音对话、短样本语音克隆、按文本描述设计音色、有声书等长音频 Studio、带说话人分离与强制对齐的转写,并提供 OpenAI 兼容的 /v1 API。已支持 Qwen3-TTS、Kokoro-82M、Fish Audio S2 Pro、VibeVoice、Parakeet TDT v3、Whisper large-v3-turbo、Qwen3-ASR、Qwen3.5/3.6/3.8 等模型,推理用 Rust 在 Candle 上原生运行并自研 Metal 与 CUDA 后端,无需管理 Python 环境。

  8. GitHub · 3D 生成新仓库29

    AI-Native-Social-Media-Agent-Team:多智能体社交媒体运营平台起步项目开源

    GitHub 新仓库 rajkumarb5285/AI-Native-Social-Media-Agent-Team 提供一个可构建的多智能体社交媒体运营平台起步项目,包含 FastAPI 后端、响应式仪表盘、持久化 SQLite 运行历史,以及覆盖编排、研究、内容生成、审核、发布、分析等十个专业工作流角色。项目集成 OpenAI 兼容模型 API(可选),无密钥时以明确标注的演示模式运行;已内置 LinkedIn 和 X 的 OAuth 2.0 连接流程与文本发布适配器,发布需开发者凭据和人工审批,且不实现图片/视频发布。项目要求 Python 3.11+,并提供 Dockerfile 和 Docker Compose 部署。

  9. GitHub · 3D 生成新仓库23

    NOVA:本地语音优先 AI 助手 demo 项目发布

    开源项目 NOVA 是一个本地运行的语音优先 AI 助手 demo,可回答问题、联网检索并附来源链接,以及生成 React/Vite 或 FastAPI 起步应用。前端用 React、TypeScript 和 Vite 构建,后端为 FastAPI,AI 路由支持 Groq 或 Amazon Bedrock,检索用 Tavily 或 DuckDuckGo,并经 MCP server(Python MCP SDK 1.30.0,Streamable HTTP)暴露工具。依赖安装需人工批准,数据存于本地 SQLite;项目面向 Alexa+ hackathon 赛道,需满足 MCP spec 2025-11-25 等要求。

  10. Reddit · r/LocalLLaMA50

    Ornith-1.5-122B:有人把它放进 coding agent 试过吗?

    Ornith-1.5-122B 是一个 MoE 推理模型,支持 tool calling 与 256K 上下文窗口,官方自测在 SWE-bench Pro 得 76.9 分,高于 Qwen3.8-Flash-Next 的 43.9,但在 Terminal-Bench 2.1 上以 81.2 略低于 83.4。已有 Ollama 发布,Q4_K_M 约 77GB,另有运行时内存开销。发帖者想了解它在陌生仓库和长任务中的表现。

  11. GitHub · 去对齐工具与仓库38

    JobGraph:AI 驱动的职位采集、去重、分类与搜索平台

    GitHub 开源项目 JobGraph 从 Adzuna API、RSS 和 CSV 多源采集职位,经 SHA-256 精确哈希加 HNSW 余弦相似度(阈值 0.92)两阶段去重,并用 gpt-4o-mini 分类、text-embedding-3-small 生成 1536 维嵌入。系统基于 Supabase PostgreSQL 与 pgvector,通过 BullMQ 队列和 Redis 缓存(TTL=300s)提供 REST 搜索 API,数据直接对接语义职位匹配系统 HireMatch。

  12. GitHub · 灵魂体仓库58

    kgai 开源团队决策记忆工具,接入 Claude Code、Codex CLI 与 Gemini CLI

    kgaidev/kgai 在 GitHub 开源,定位为 AI 编程工作流中的共享决策记忆:AI 在改代码时自动把结构性决策记录为知识图谱,包括变更、原因和被否决的方案,改动前 AI 会先查已有决策。决策是不可变的内容寻址事件,并行写入不产生文本合并冲突,语义冲突以分支形式呈现并保留解决记录;官方称 100 万条决策、30 个写入者分片下查询约 100ms。支持 Claude Code 插件、Codex CLI(需 ≥ 0.150)和 Gemini CLI,团队同步为 opt-in,使用用户自己的 S3 桶(git 远端为实验性),另有 VS Code/Cursor/Windsurf 扩展和实验性 kgai-mod 插件,MIT 许可,本地优先,代码不出本机。

    推荐理由:这个共享决策记忆在 100 万条决策、30 个写入者分片下查询仍约 100ms,且团队同步以自家 S3 为 opt-in,可作长期记忆落地方案参考。

10月21日周三
  1. Reddit · r/LocalLLaMA29

    开发者自制 DeepInfer 逐行代码交互式讲解站点,助你读懂 DeepSeek 开源推理引擎

    一位开发者针对 DeepSeek 开源推理引擎 DeepInfer(基于 commit 9bd9cf2)构建了交互式逐块代码讲解静态站点,用 Python 脚本从官方仓库抽取代码引用并配上简短说明,内容覆盖 paged KV cache、speculative decoding 和 model workers 在生产环境中的实现,可作为阅读官方仓库的配套学习指南。

  2. Reddit · r/LocalLLaMA36

    llampart v2.0.1 发布:面向 llama-server、vLLM 与 OpenAI 兼容 API 的开源本地 Web UI

    开源本地聊天界面 llampart 发布 v2.0.1,基于 Svelte 5 和 SvelteKit 构建,支持 llama-server(llama.cpp)、vLLM 和 OpenAI 兼容 API。自 1.9.0 起新增独立 provider 配置、改进推理支持,并可在聊天中生成 Line、Area、Bar、Donut 图表及 Mermaid 流程图,支持 PNG/SVG/CSV 导出。项目采用 MIT 许可证,会话经 IndexedDB 存储在本地浏览器,提供 Ubuntu 和 Arch 系安装包。

  3. Reddit · r/LocalLLaMA60

    论文提出用 16 MB 冻结词表替代小模型嵌入层,BitNet b1.58 版本整模仅 46 MB

    一篇 arXiv 论文提出用 16 MB 冻结 512-bit 编码表替代可训练嵌入层,经主成分投影和符号二值化得到,无任何可训练参数。在 Gemma 3 270M 形状模型上,可学习词表花 2.6 倍可训练参数只换来 0.20 nats 验证损失改善,而冻结词表模型在 LAMBADA、HellaSwag、PIQA 上持平或更好,仅 ARC-Easy 落后;在罕见词上反超 1.7 到 2.3 nats,训练后新增 10,000 词仅损失 3%,可学习词表则崩掉 43%。配合 ternary BitNet b1.58 主体,整个模型仅 46 MB,在笔记本 CPU 上以 62 MB 内存生成 615 到 740 tokens 每秒,速度是 float 模型 8-bit GGUF 的五到六倍、内存为其七分之一。

    推荐理由:论文用同一训练设置对照验证冻结 16 MB 词表的效果,并给出 LAMBADA、PIQA 等基准与 CPU 生成速度数据,权重和评测全部开放。

  4. GitHub · 去对齐工具与仓库20

    ibrahimsamak 开源 Bedrock-AWS-AgentCore-Strands:基于 Amazon Bedrock 与 Strands Agents 的财报分析智能体项目

    开发者发布 Bedrock-AWS-AgentCore-Strands 项目,输入公司名即可从其 10-K 财报中提取内容并结合市场数据生成带 [1]、[2] 引用标注的分析简报。系统采用 Amazon Bedrock(Nova 2 Lite + Knowledge Base)、Strands Agents 与 AgentCore Runtime,由编排智能体动态调度 retriever、analyst、writer 三个子智能体,技术栈含 FastAPI、Gradio、SQS、DynamoDB 和 ECS Fargate,任务经 SQS 异步处理,进度步骤写入 DynamoDB 供 UI 轮询展示。

  5. GitHub · 去对齐工具与仓库54

    granite-switch-systemone v0.1.1 发布:在 vLLM 上以插件形式提供 Granite Switch 决策 API

    generative-computing 发布 granite-switch-systemone v0.1.1,一个 vLLM 端点插件,在同一服务器和 GPU 缓存上通过 POST /v1/decisions(OpenAI Decisions API 格式)和 POST /v1/systemone(jev 的 system-one API)两个接口提供 Granite Switch 检查点的决策适配器服务。每次问题由单次引擎读取适配器的单 token 选项标签完成,以 softmax 概率返回。8b 检查点可装入单张 80 GB H100,测试版本为 vLLM 0.30.0;Docker 镜像约 30 GB,权重需单独挂载。

  6. GitHub · 去对齐工具与仓库31

    LingoSofa:Windows 浮动翻译工具(GitHub 开源项目)

    GitHub 上的 LingoSofa 是一款 Windows 浮动翻译工具,可划词翻译、在原文旁显示译文,并通过 Ask 基于选中内容流式追问。当前为开发预览版,面向 Windows 11 x64,安装包未签名;macOS 本地截图 OCR 已实现,Windows OCR 仍不可用。支持配置多个 API Key 或订阅账号,默认模型为 deepseek-flash,凭据本地加密保存。

  7. Reddit · r/LocalLLaMA61

    OpenBMB 用 LES 在 iPhone 上以 20.5 tok/s 本地运行 35B-A3B MoE 而不跳过专家

    OpenBMB 的技术文章介绍 MiniCPM-V 4.7 通过 Lookahead Expert Scheduling(LES)在本地运行 35B-A3B MoE,不改变路由或跳过专家。该方法预测下一层所需专家并提前从闪存预加载权重,配合优化的权重布局、混合精度量化和 DSpark 投机解码,在 iPhone 18 Pro Max 达到 20.51 tok/s,是 3.38 tok/s 基线的 6.07 倍;专家权重缩小 26.7% 且五个基准仅降 0.16 分,低内存配置峰值内存约 3 GB。实现已开源在 llama.cpp-omni。

    推荐理由:原文转述了 LES 预加载专家权重、不改路由的思路,并给出 tok/s、体积和内存等实测数字,可作本地跑大 MoE 的参考。

  8. Reddit · r/LocalLLaMA64

    Alkove 开源端侧语音前端:5 个模型共 7.5 MB,Apache-2.0 早期预览

    作者发布 Alkove 早期预览,5 个小型模型(共 7.5 MB)在设备端运行于 STT 之前,支持任意文本自定义唤醒词、声纹过滤和仅针对本人语音的 VAD,代码与权重以 Apache-2.0 开放。引擎用 Rust 编写并编译到 WebAssembly、Python 和 Android,手机单线程上 Focus 处理每秒音频需 38.6 ms;AMI 会议测试中他人语音进入转写从约每分钟 17 词降到 0.5 词。当前局限包括仅适合近场麦克风、同时说话分离不完整、音频为 16 kHz。

    推荐理由:作者给出了各模型体积、单线程延迟和 AMI 会议实测数据,可据此评估这套语音前端在本地助手里的实际可用性。

  9. GitHub · 3D 生成新仓库43

    huareyu/local-image-studio:本机运行的轻量级 AI 图像生成工作台

    GitHub 开源项目 huareyu/local-image-studio 是一个运行在本机的轻量级 AI 图像生成工作台,当前版本 0.8.1,界面为俄语,需 Node.js 20 及以上。它支持 Gemini-compatible、OpenAI-compatible、OpenRouter 和 NovelAI 四种 API,提供多参考图管理、提示词编辑、本地生成历史及带认证的 HTTP/HTTPS 代理,不依赖 SillyTavern。NovelAI 模式内置 140,782 条 Danbooru 标签的本地标签助手,支持 Prompt Chunks 嵌套引用,数据通过 IndexedDB 保存在本机。

  10. GitHub · 去对齐工具与仓库60

    Vipera 发布本地 AI 网关,读入 GGUF 后自动规划层与缓存配置并暴露 OpenAI 兼容接口

    Vipera 团队在 GitHub 发布本地 AI 网关 Vipera(PyPI 包名 vipera-ai,MIT 协议),读取 .gguf 模型后提供 OpenAI 兼容的 HTTP 接口,默认监听 http://127.0.0.1:8686/v1。核心特性是硬件感知 planner,根据硬件探测结果生成 gpu_layers、KV cache 类型、n_batch、mlock 和 KQV offload 配置,GPU 加载失败时逐阶段回退到 CPU 安全方案并打印变更;CLI 与 API 共享同一引擎实例,内置 system doctor 诊断、HuggingFace 模型搜索和 bench 吞吐测试。

    推荐理由:作者给出 planner 逐层分配 gpu_layers 与 KV cache 类型的具体机制,并在硬件溢出场景下说明了适用边界和基准数据。

  11. GitHub · 去对齐工具与仓库57

    开源浏览器端编码 IDE Mugil IDE v0.1.20 发布,官方安装渠道从 npm 迁移到 GitHub Releases

    Mugil IDE v0.1.20 发布官方独立安装包,Windows、Linux 和 macOS 均可直接下载运行,不再需要 npm 或 Node,npm 发布自该版本起停用。该开源工具是纯浏览器端的双栏 Web IDE,内置 17 个自主工作区工具,通过 Caveman 提示压缩、RTK 日志去重、缓存与 AST 骨架读取等管线宣称可降低 40% 至 70% token 开销,支持 Ollama、LM Studio 本地模型与 OpenRouter、Anthropic、OpenAI 等云端接入。

    推荐理由:开源浏览器端编码 Agent,正文列出 token 压缩管线、缓存分层与成本计算的具体实现,方法可迁移到自己的 Agent 工程。

  12. GitHub · 去对齐工具与仓库58

    free-llm-atlas 仓库每日自动探测 19 家免信用卡免费 LLM API 供应商

    happyyboxx 发布 free-llm-atlas 仓库,用 GitHub Actions 每日 06:00 UTC 自动探测 48 家免费 LLM API 供应商,结构化输出到 providers.json。其中 19 家无需信用卡,仓库还自动生成 Hermes、LiteLLM、Portkey、Open WebUI 的网关 YAML 配置,并给出 Groq 6K TPM、Google AI Studio 2M 上下文等隐藏限制对比表,最后提供一条覆盖约 95% 生产负载的零成本 fallback 链。

    推荐理由:原文给出每日自动探测、19 家免信用卡供应商清单和 TPM 并发等隐藏限制表,还比较了各网关配置的适用场景。

  13. GitHub · 去对齐工具与仓库24

    gannet:基于 Microsoft Agent Framework 的 C# 深度研究工具

    GitHub 上的 gannet 是一个 C# 深度研究工具,输入问题后由 planner、searcher、synthesiser、writer 四个智能体组成一个 workflow,完成规划、联网搜索、来源可信度评分并生成每条论断都带引用的报告。它提供 Blazor web UI,模型可选云端 API 或通过 Ollama 本地运行,支持自托管。项目于 10 月 21 日启动,目前仅搭建了 solution、CI 和仓库文件,尚无可运行内容;它是 Tarun Sai Goddu 的 Python 项目 deep-research-agent(基于 LangGraph 和 LangChain)的 C# 重写版,采用 MIT 许可证。

  14. GitHub · 去对齐工具与仓库56

    LM Switcher v0.9.15b 发布:macOS 菜单栏管理本地 GGUF 与 MLX 模型

    开发者 kruzif-x 发布 LM Switcher v0.9.15b(beta),一款仅支持 macOS Apple Silicon 的菜单栏应用加 CLI 加 MCP,用于发现、加载和卸载本地 GGUF 与多种 MLX 系后端模型,各模型独立端口并行运行。核心功能包括 mmproj 视觉投影文件自动配对、mtp/dflash 文件自动排除与挂载、DFlash 投机解码(默认开启)、聊天模板覆盖以修复 Gemma 4 在 opencode 等 agentic 工具下的多轮调用问题,以及独立的 MCP 服务器让 Hermes 等 agent 按需加载卸载模型(默认关闭)。

    推荐理由:作者是开发者本人,给出了各引擎端口、CORS 兼容表和 Muse Glimmer 实测吞吐数据,读者可对照自己的硬件与工作流判断是否适用。

  15. GitHub · 去对齐工具与仓库65

    Harness Studio 开源发布:本地运行大模型的桌面应用

    struklabs 开源发布 Harness Studio v0.1.2,一个基于 Tauri、Rust 和 Svelte 5 的桌面应用,管理 llama.cpp 等引擎让用户在本地电脑运行大模型,无需订阅、离线可用。应用提供 Model Hub 搜索 Hugging Face 并校验 SHA-256、OpenAI/Anthropic/Ollama 兼容网关、MCP 双向支持、CLI 与 headless 模式,并内置 P50/P95 请求分析和 Prometheus 指标;Windows 安装包约 21 MB,应用自身占用约 250-350 MB 内存,MIT 许可。

  16. GitHub · 去对齐工具与仓库18

    CareerAgentPro:AI 求职助手开源项目(mangeshraut712/career-agent-pro)

    GitHub 上的开源项目 CareerAgentPro,基于 qwen/qwen-2.5-coder-32b-instruct 模型(通过 OpenRouter API)提供 AI 求职功能:简历解析与增强、职位 URL 提取、求职信生成、ATS 优化评分与职位匹配分析,支持导出 PDF/DOCX/LaTeX,并通过 SSE 实现实时流式输出。项目采用 Next.js 16.1.1 前端与 Python 3.12+ 后端,需自备 OpenRouter API Key。

  17. GitHub · 灵魂体仓库40

    daedalus-crm:本地优先的开源 AI CRM,个人版免费、AI 只起草由人确认

    GitHub 开源项目 daedalus-crm 推出本地优先的桌面端 CRM(Mac Apple 芯片 / Windows x64),100% 开源、AGPL-3.0 协议,个人版免费,团队版按席位收费并先免费用 14 天。首页是 ReAct 循环 agent 对话面,改数据只给建议卡、确认后才写入;支持一键接入 DeepSeek 或自填 OpenAI 兼容接口,也可让 Claude Code / Codex 经 MCP 连入,首次登录送 30 次 AI 提问。数据存本机断网可用,团队版改动加密同步,技术栈为 Next.js 16、React 19 与 SQLite。

  18. GitHub · 灵魂体仓库29

    Perihelion:基于 NASA 数据与 Gemini 的近地天体自主监控智能体

    Perihelion 是一个近地天体自主监控智能体,每日从 NASA NeoWs API 拉取七天天体数据存入 SQLite,用确定性打分模型按距离、尺寸、速度和危险性排序,再将前二十名交给 Gemini 生成简短分析笔记。系统通过 GitHub Actions 每天 06:00 UTC 自动运行并提交更新数据库,无需服务器、零成本,结果以 Streamlit 界面呈现。

  19. GitHub · 灵魂体仓库59

    veildawn/ai-protocol 发布 Go 库,在多种公开 LLM wire 格式间互转请求、响应与 SSE 流

    veildawn 在 GitHub 开源了 Go 库 ai-protocol,可在 OpenAI Chat Completions、Anthropic Messages、OpenAI Responses、Gemini generateContent 及图像生成 wire 格式之间互转请求、响应与 SSE 流。库仅依赖标准库、无 I/O 与网络,所有映射为纯函数,无法保留的协议事实通过 BodyLosses 和类型化错误显式报告;映射语义基于 LiteLLM v1.100.1 的 MIT 协议映射校验,当前处于 v0.8.x 的 Pre-1.0 阶段。

    推荐理由:把 OpenAI、Anthropic、Gemini 等多种 LLM 接口格式的互转抽成无依赖纯函数库,转换丢失的参数会显式报告,适合自建网关的人参考。

  20. GitHub · 灵魂体仓库35

    dsh-freetoken v0.3.2:将 chat.deepseek.com 网页版接入 DeepSeek Harness 的非官方插件

    GitHub 上的非官方插件 dsh-freetoken v0.3.2 把 chat.deepseek.com 网页版桥接为 DeepSeek Harness 的 deepseek-web provider,已打通登录、文本、工具与图片链路。插件默认关闭(enabled: false),要求 DSH Desktop 0.2.1-rc.2+、Node ^22.18.0 || >=24.11.0 与支持 CDP 的 Edge/Chrome,实测平台为 Windows x64。其驱动 DeepSeek 网页私有接口,可能违反服务条款并导致限速或封号,作者声明与 DeepSeek 无关联,建议仅用非关键账号、风险自担。

  21. GitHub · 灵魂体仓库43

    zero-agent-core v0.2.1 Alpha:零外部平台绑定的 Python Agent 运行时内核

    zero-agent-core 是一个不绑定外部平台的 Python Agent 运行时内核,当前版本 0.2.1 Alpha,要求 Python 3.13,通过 pip install zero-agent-core 即可安装。它实现了 ReAct Agent Loop、工具调用、MCP、Skill、上下文压缩、持久化恢复、工作流、HITL 和 ACP 协议,支持 OpenAI、Anthropic、Gemini、Ollama 及自定义模型 Provider,并提供多 Agent 编排、向量存储等可选扩展包。项目定位为较轻的可嵌入内核,按 Apache License 2.0 开源,生态和连接器少于 LangChain 等成熟框架,适合需要自定义 Agent Loop、状态恢复和审批流的团队。

  22. Reddit · r/LocalLLaMA52

    Specter 论文提出量化多步投机卸载加速单 GPU MoE 推理

    arXiv 论文 Specter 提出一种 MoE 推理系统,用量化让轻量 draft 模型在设备上运行,对未来专家使用做多步投机预判,提前安排专家的搬运与执行。单请求推理下相对 SOTA 系统平均取得 1.50x(最高 1.88x)的 TPOT 加速,让单 GPU 受限显存下的 MoE 推理在消费级硬件上更可行。代码在 https://github.com/wwwwwf/specter_asplos,论文见 https://arxiv.org/abs/2511.14102。

  23. Hugging Face · 新模型:abliterated39

    Huihui-Qwen3.8-27B-abliterated GGUF 发布:Qwen3.8-27B 去审查版本

    huihui-ai 发布基于 Qwen/Qwen3.8-27B 的去审查(abliterated)GGUF 版本,通过 abliteration 技术移除模型拒绝回答行为,仅消融部分层(如第 22 至 52 层,0 起始索引),MTP 与视觉部分未改动。提供 Q2_K_L 至 Q8_0_L 等多种量化格式,可通过最新版 ollama(huihui_ai/Qwen3.8-abliterated)或 llama.cpp 运行,支持 -c 262144 上下文;模型安全过滤大幅降低,建议用于研究测试而非生产环境。

  24. GitHub · 去对齐工具与仓库47

    Zer0gh0st 0.5.8:运行在终端里的 Rust AI 智能体

    开源项目 Zer0gh0st 发布 0.5.8 版本,这是一个用 Rust 重写、运行在终端 TUI 中的 AI 工程智能体,MIT 许可,支持本地 llama-server 或 OpenAI 兼容云端推理,本地模式无需 API key。内置 10 个 provider 与 failover、JSONL 记忆、SQLite+FTS5 知识库、/img 视觉输入、Whisper 语音助手 Zero-chan 及 Telegram 远程控制;工具默认关闭,code_exec 无沙箱,启用前需阅读 SAFETY.md。

  25. GitHub · 去对齐工具与仓库45

    Levia-Labs 开源 Crepidoma:统一管理 LLM 指令、Agent、hooks 与配置的 Claude Code 插件

    Levia-Labs 在 GitHub 发布 Crepidoma,一个以"支柱(pillar)"链接、避免复制漂移的单一来源方案,统一管理 LLM 指令、agents、hooks、gates、configs、Taskfiles 和 ADR。它以 Claude Code 插件形式提供,可通过 `claude plugin install crepidoma@levia-labs` 安装,内置 auditor、security-reviewer 等 15 个 agents、多个 skills 与任务命名空间,代码与文档采用 MIT 许可。

  26. GitHub · 去对齐工具与仓库29

    DataFinFreak 的 ai-engineering-buildcamp-codespaces 仓库:AI Bootcamp 从 RAG 到 Agents 课程作业

    GitHub 仓库 DataFinFreak/ai-engineering-buildcamp-codespaces 收录 AI Bootcamp「从 RAG 到 Agents」课程作业及作者自研项目。项目包括基于四份印度央行(RBI)金融稳定报告(732 页)构建的 RAG 管线,分析了关键词检索失败、结构化输出及小型评测集导致其错误回答年份的原因。仓库还按模块整理课程 notebook 及学习资源清单。

  27. GitHub · 去对齐工具与仓库68

    云碩科技开源插件式 AI agent harness xHarness

    云碩科技(xCloudinfo)发布插件式 AI agent harness xHarness 1.0,MIT 授权,代码约 13,800 行 Python、零执行期相依,411 个测试约 33 秒跑完。支持任何 OpenAI 相容端点(llama.cpp、vLLM、Ollama、LiteLLM 等),提供沙箱隔离、审批策略、MCP client、跨 session 记忆层、eval 子系统、子代理与多节点舰队视图,除设定的模型端点外不对外传送任何数据。

    推荐理由:作者给出约 13,800 行代码、零执行期相依和 411 个测试等具体数字,读者可据此评估这个治理优先 agent harness 的实际规模。

  28. GitHub · 去对齐工具与仓库25

    OpenGPT:基于 LangGraph 与 RAG 的开源 AI 聊天机器人项目

    GitHub 上的 OpenGPT 是一个用 LangGraph 和 RAG 构建的 AI 聊天机器人,采用 FastAPI 后端与 React 前端,模型通过 CanopyWave API 调用 OpenAI GPT。它支持多线程对话、PDF 上传问答(FAISS 向量检索)、MySQL 持久化存储与会话级临时聊天,并集成 Brave 搜索、OpenWeather 天气、Alpha Vantage 股价查询和计算器工具。