跳到正文
10月14日周三
  1. Reddit · r/LocalLLaMA63

    Private Mind 开源应用在手机上为 1.7B 本地模型实现无后端联网搜索

    /u/K4anan 团队为开源本地 LLM 应用 Private Mind 上线联网搜索功能,iOS 和 Android 上的 Qwen 3 1.7B 无网络时把 Apple 九月发布会答错,开启后能答对并引用 5 个页面。实现不用搜索 API 和后端:隐藏 WebView 访问 DuckDuckGo(Brave 和 Mojeek 备用)解析结果,把顶部网页切成约 500 字符块,由端上嵌入模型 LFM2.5(约 415MB)加关键词匹配选出最多 6 块(单页最多 3 块),两个站点一致的说法权重高于单一来源,模型基于这些块作答并附全部来源链接。搜索按会话开关、默认关闭,手机像浏览器一样发请求,对话留在本机,LLM 和嵌入都跑在 react-native-executorch 上。

    推荐理由:核心难点不在模型而在选段,用嵌入加多站点一致性从网页里挑几百字喂给 1.7B 模型,做法可直接借鉴。

  2. GitHub · 3D 生成新仓库24

    ghost-travel:基于 Expo、React Native、Flask 与 CrewAI 的多端旅行规划器开源项目

    GitHub 开源项目 ghost-travel 是一款支持 Android、iOS 和 Web 的旅行规划器,前端基于 Expo 和 React Native,后端采用 Flask 与 CrewAI 智能体,由 OpenAI key 驱动行程生成。支持 1 至 30 天行程、最高 100,000 欧元预算、六种语言界面,提供可折叠的 Markdown 行程卡片和带 Wikimedia 署名的目的地图片;SQLite 缓存条目 24 小时过期,每个后端进程每分钟限 5 次新行程生成,缓存响应不占额度。

  3. GitHub · 去对齐工具与仓库23

    Sov.PIO 输入 SDK crispy-mouse:边缘端高保真辅助人机交互接口

    GitHub 上的 Sov.PIO(Pneumatic-Inertial-Optical)输入 SDK,即 crispy-mouse,是一款边缘原生的高保真辅助人机交互接口,通过多模态传感器融合实现高复杂度交互,特性包括运动阻尼、自回归 LLM 预测和确定性宏自动机。项目由 JuniorCloudllc 开发,采用 MIT 许可证开源。

  4. GitHub · 去对齐工具与仓库27

    CVTailor:AI 简历定制自动化平台(Rafalbanas/ai-resume-tailoring-platform)

    GitHub 上的私有移动优先 Web 应用 CVTailor,可分析单个职位发布、基于已验证主档案评估匹配度(HIGH/MEDIUM/LOW/UNRELIABLE),并通过 Truth Lock 事实校验生成 ATS 友好的 PDF 与可编辑 DOCX 简历。平台支持本地 Ollama(qwen3.5:9b)推理,可回退至 Google Gemini(gemini-3.1-flash-lite),并实现 Argon2id 认证、CSRF 防护与 SSRF 防护等安全机制。

  5. GitHub · 3D 生成新仓库46

    Cure-Agent 开源临床 RAG 后端 cure-agent-be:面向韩式循证医疗决策支持

    Cure-Agent 后端将 63 份临床指南 PDF 转为 7,154 个可检索证据块,通过 pgvector 余弦检索与 BM25 关键词双路混合检索加 RRF 融合和 LLM 重排序,生成带来源引用的流式回答。系统在 229 题评测集(含 44 题不可答)上实现 0 泄漏、0 过度弃答,claim 级支持率 91.8%,并支持 OpenAI 与 Anthropic 多供应商路由、SSE 流式输出与 Prometheus 可观测性。

  6. GitHub · 3D 生成新仓库34

    super-ai-gen:基于 Higgsfield CLI 的 AI 广告素材生成命令行流水线

    GitHub 新仓库 super-ai-gen 提供一套带防护的命令行流水线,通过 Higgsfield CLI 生成 AI 广告素材(静图与视频),可打包为 Claude Code 技能,脚本也可独立运行。其核心是“品牌只声明不推断”:prefire.py 门禁校验 Drive 目录、CLI 账号与工作区、模型是否在客户允许列表内,两处来源不一致即拒绝执行。支持 gpt_image_2、nano_banana_pro、kling3_0、veo3_1_lite 等模型,dry-run 先算成本不花钱,支持断点续跑、原地 regen 和锁文件防重复扣费,含 27 个测试,MIT 许可。

  7. GitHub · 3D 生成新仓库37

    qfzhao670 开源 Bilibili 视频文案工具 aigc-casebase-video-script-workflow

    qfzhao670 在 GitHub 发布跨平台桌面工具 aigc-casebase-video-script-workflow,用于 B 站视频文案制作。工具支持输入多个用户 UID(每个 1–1000 条)或手动输入 BV 号构建案例库,用 Whisper large-v3-turbo 转写音频,并以 qwen-max 生成摘要和关键词、qwen3.7-max 生成文案;Apple Silicon Mac 自动使用 MLX GPU 后端,触发 412/352 风控时可读取 Chrome 登录 Cookie 自动重试。

  8. GitHub · 3D 生成新仓库49

    gateway 开源 Media Studio:本地一站式 AI 图像、视频与音频生成工作台

    gateway 在 GitHub 开源 Media Studio,可在本地工作区完成图像生成、视频执导与配乐制作,集成 GPT Image 2.5、Nano Banana Pro、Seedance 2.5、Kling 3.0 和 Suno 等模型(经 Kie AI 调用)。项目提供可搜索媒体库、可复用 Presets、Prompt Recipes 与 Graph 工作流,数据库、项目和生成文件均保存在本机,支持 macOS、Windows 和 Linux 安装。

  9. GitHub · 去对齐工具与仓库53

    bnbloc 开源发布:让团队与 AI 智能体在同一房间协作的自托管平台

    luckylhb90 在 GitHub 发布开源自托管项目 bnbloc,把多人和多个 AI 智能体放进同一实时房间协作,支持借用同事的 agent 并由所有者按房间授权、设置运行与成本配额并查看审计记录。agent 在各成员本机通过桌面应用 bridge 运行,借用的 shell 命令默认在 Linux microVM 沙箱内执行;通过 manifest 或 Core Protocol v1 接入 Claude Code、Codex 等 agent,支持 ACP 协议,提供 Docker Compose 与 Helm 部署,代码采用 Apache License 2.0。

  10. GitHub · 去对齐工具与仓库63

    sakuranaga 开源 local-ai-search 自托管文件平台,集成混合 AI 搜索与本地 LLM Agent

    sakuranaga 在 GitHub 发布 local-ai-search(LAS),一个完全本地运行、零云端依赖的自托管文件平台,支持拖拽上传、权限控制、版本历史与协作编辑。搜索采用 pg_bigm 全文检索与 pgvector 向量检索并行、经 RRF 融合的混合方案,并用 ReAct 风格 Agent 调用 search/grep/read_document 等工具自主检索与总结文档;PDF 与图片经 Surya OCR v2 自动 OCR,LLM 与 Embedding 通过 llama.cpp 在本地 GPU 运行。

    推荐理由:原文完整公开了这套自托管文件平台的架构、技术栈与部署命令,读者可以直接照着复现一套局域网内的本地 AI 搜索文件服务。

  11. GitHub · 去对齐工具与仓库39

    MiniBot.rs:一个用 100% Rust 实现的轻量 AI Agent 执行框架

    MiniBot.rs 是一个 100% 用 Rust 实现的开源(MIT OR Apache-2.0)AI Agent 执行框架,默认接入 MiniMax 供应商(示例配置为 minimax-coding-plan/MiniMax-M2.5)。它以 Trait 驱动实现高度模块化,支持 ARM、x86、RISC-V,目标为运行时内存小于 5MB、冷启动小于 10ms(尚未实测);内置 Shell 白名单、文件根目录限制等安全默认,提供 agent、gateway、config 等 CLI 命令。

  12. GitHub · 去对齐工具与仓库27

    mithudso/llms-explorer:面向 LLM 的文档探索与语义搜索平台

    GitHub 开源项目 llms-explorer 提供 LLM 文档探索、语义搜索索引、账户与计量基础设施及交互式 Web 门户。项目采用 Monorepo 结构,包含 FastAPI 后端、Astro + TypeScript 前端、Global AI Hub 语义操作模块,以及解析 llms.txt 标准 v2 文件的 llmsx Python 库和 CLI,并内置 MCP server 与预配置的 agent 指令和语义技能。

  13. GitHub · 去对齐工具与仓库49

    Trajectorylabs trajectory-cookbook:基于 Trajectory SDK 的模型评估与训练示例库

    Trajectorylabs 在 GitHub 发布 trajectory-cookbook,提供使用 Trajectory SDK(锁定 trajectory-sdk==0.9.16)评估和训练模型的可运行示例。内容涵盖 T Factory 首个任务、GSM8K 完整工作流(64 个训练题、16 个保留测试题)、多轮环境与 ReAct agent 等示例,并在小规模 GSM8K benchmark 上训练和评估 Qwen 3.5 4B,另附公开的 Tau 3 Banking recipe。

  14. GitHub · 去对齐工具与仓库52

    DeepSeek Etymology:划词查英文词源的 Chrome 插件开源

    作者发布 Chrome 扩展 DeepSeek Etymology,在任意网页选中英文单词(最多 3 个词)即可生成六段式词源拆解卡片,讲清词根来源与隐喻延伸路径。插件为 Manifest V3,仅 6 个文件,API Key 只存 chrome.storage.local,请求由 background.js 直连 api.deepseek.com,单次查询约 700–900 tokens、通常不到 1 分钱;需手动加载安装,支持 Chrome 110+ 及 Edge、Brave 等 Chromium 浏览器,MIT 协议开源。

  15. GitHub · 去对齐工具与仓库48

    pi-go:pi.ai 核心包的 Go 语言重构实现发布

    pi-go 以 Go 重写 pi.ai 核心包,提供 provider 无关的模型运行时 pkg/pigo、单智能体运行时 agent 和 pigo CLI,支持 OpenAI Codex、Kimi Coding、Anthropic、DeepSeek、Google、Mistral 等 8 个 provider 的统一模型与消息接口,含阻塞与流式 completion API、SSE/WebSocket 传输、MCP 工具及内嵌 QuickJS WASM 沙箱。仓库要求 Go 1.26.2 或更高版本,支持 go get 安装。

  16. GitHub · 3D 生成新仓库71

    nightmare-mobile 开源:在安卓手机 Hexagon NPU 上以节点图运行图像与视频生成

    GitHub 仓库 AbrahamPaulJ/nightmare-mobile 发布,一个安卓节点图应用,在 Qualcomm Hexagon NPU 上离线运行文生图、图生图、inpaint、放大、图像编辑与文生视频,无需服务器或账号。

    推荐理由:README 详细列出了各芯片档位支持的模型、显存与授权条件,安卓用户可以直接判断自己的手机能跑哪些本地生成流程。

  17. GitHub · 3D 生成新仓库31

    PySynthData 0.5.0 发布:Rust 原生的合成关系数据生成库

    PySynthData 0.5.0 已发布至 PyPI,是一个 Rust 原生、提供 Python API 的合成关系数据生成库,可按 YAML schema 生成带外键完整性和约束(空值、唯一、范围、枚举等)的数据,核心生成与质量评分在 Rust 中实现。支持 Laplace 机制差分隐私(带 ε-δ 预算)、分块流式生成、基于真实违规的保真度评分,可导出 Pandas、Parquet 和 JSON,并能通过 SQLAlchemy 从 Postgres、MySQL、SQLite 推断 schema。

  18. GitHub · 3D 生成新仓库27

    Dust:面向 Dart 与 Flutter 开发者和 AI 智能体的 Rust 代码生成工具开源仓库

    Dust 是一个基于 Rust 的 Dart 和 Flutter 代码生成工具,面向人类开发者和 AI 编码智能体,仓库快照来自 mainline revision 45349afab66f25b5092b4a0e7189a785ff578020。它通过注解加 dust build 生成类型化实现,提供数据类、JSON 序列化、校验、HTTP 客户端(Stable)以及路由、状态管理、i18n、数据库(Beta)等功能,并支持安装 use-dust Agent Skill。发布二进制尚未迁移,目前需用 cargo install 从源码构建,采用 MIT 许可证。

  19. GitHub · 3D 生成新仓库18

    MYDOCMAKER(Ai-Document-Generation)AI 文档生成工具发布

    GitHub 新仓库 Ai-Document-Generation 发布 AI 文档生成工具 MYDOCMAKER,可在数秒内生成高质量文档、数据与媒体,支持 PDF 生成。该工具调用 Google Gemini API 进行智能文档创建,并集成 ElevenLabs,提供无需技术基础的简洁界面,支持 Windows 10+、macOS 10.14+ 及兼容 .NET 的 Linux,需 4 GB 内存与 500 MB 磁盘空间。

  20. GitHub · 3D 生成新仓库25

    Umrah_Lead_Generation:面向 Umrah360 的多租户 AI 线索生成与全渠道互动平台开源仓库

    GitHub 新仓库 amaavigoautomation/Umrah_Lead_Generation 上线,提供面向 Umrah360 及白标工作区的多租户 AI 线索生成与全渠道互动平台。系统支持接入 Gmail、Microsoft 365 OAuth IMAP 及其他 IMAP 邮箱,由后台轮询器统一处理入站邮件,实现 AI 回复、CRM、统一收件箱、演示预约与自动跟进。技术栈为 React 19 + Vite + Tailwind、Express API、Firebase、OpenAI / Gemini、Resend、Stripe 及 Meta WhatsApp / Instagram,需 Node 22.x,可本地运行或部署至 Vercel。

  21. Reddit · r/LocalLLaMA41

    Discover AI:含 51 个动手实验的 AI 学习指南应用

    一款离线应用 Discover AI 提供 51 个动手实验,分 6 组讲解 AI 原理,涵盖神经元、梯度下降、attention、RAG、agents、微调、量化与服务部署等主题。attention 实验在应用内运行 1.37M 参数的小型 transformer,训练实验可随滑块实时训练字符级模型;应用离线可用,无账号、无遥测。

  22. GitHub · 去对齐工具与仓库33

    aiup:macOS 上扫描、更新与管理 AI 及开发者工具的 TUI 工具

    GitHub 上的 aiup 是一款仅限 macOS 的 TUI 工具,用于扫描、更新、安装、移除和浏览经过审核的 AI 与开发者工具,清单数据保留在本机。它支持 Homebrew、npm、uv 并行更新,提供供应链检查(npm provenance、npm 11.19 安装脚本管控、Homebrew attestations),并在每次更新后清理下载缓存。可通过 curl 脚本安装,公共 launcher 可离线运行。

  23. GitHub · 灵魂体仓库34

    GitHub 开源 llm_adapter:多模型 LLM 推理编排器,支持 Tool Calling 与多协议

    GitHub 开源项目 llm_adapter 提供支持 Qwen、Nemotron 及 Claude 协议的多模型 LLM 推理编排,兼容 Anthropic Messages API 与 OpenAI Chat Completions 格式,内置联网搜索、计算器等 Tool Calling 能力,20 项测试全部通过。通过 YaRN 8× RoPE 缩放支持 1M token 上下文,支持 Qwen 27B/35B 与 Nemotron 120B,在 4x RTX 6000 Ada 上以张量并行运行,5 分钟内即可克隆安装部署。

  24. arXiv · cs.AI34

    SLKR:面向零样本文本分类的以标签为中心的知识检索框架

    论文提出 SLKR(Semantic Label Knowledge Retrieval),一种以标签为中心的检索增强生成框架,将旗舰 LLM 离线构建的标签定义与边界规则复用于轻量模型的在线推理,完成零样本文本分类。在三个公开 benchmark 和一个多语言图书分类数据集上,SLKR 使用 Qwen3.5-4B 在全部四个数据集取得最佳结果,用 Ministral-3-3B 在其中三个取得最佳,且无需任务专属标注样本。

  25. GitHub · 3D 生成新仓库56

    BG3 MetalFX 开源发布,为 Mac 版《博德之门3》带来 MetalFX 超分与帧生成

    开源项目 BG3 MetalFX 通过启动器为 Mac 上的《博德之门3》接入 Apple MetalFX 超分与帧生成,不改动游戏文件,Steam 原样启动不受影响。在 M5 Pro 16 英寸 MacBook Pro、3456x2160 下,Temporal 加帧生成约 70 FPS(原生关闭约 30),1728x1080 下约 124 FPS;需 Apple Silicon、macOS 26 Tahoe 及 Steam 版游戏 4.1.1.7631656,经 Homebrew 安装,项目标注为非官方实验性且用 Claude 辅助编写。

  26. GitHub · 灵魂体仓库62

    GitHub 仓库 velo4705/awesome-free-byok-models 汇总可白嫖且自动补充额度的 LLM API 免费层清单

    velo4705 在 GitHub 维护 awesome-free-byok-models 仓库,汇总当前仍提供免费、自动补充额度 API 的文本生成 LLM 清单,采用 BYOK 方式接入编程工具与自定义项目,无需绑卡。清单覆盖 38 家可补充额度服务商(如 Groq、Void AI、Intern AI、Google Gemini 等)与 9 家不可补充服务商(如 OpenRouter),逐项标注配额、上下文长度、延迟、工具调用等能力,数据由 scripts/verify.py 通过实时 API 调用验证,验证日期为 2026 年 10 月 14 日;文中还说明了收录范围、移除政策与使用限制。

  27. GitHub · 灵魂体仓库45

    Eeyore104 开源 Ymir-Agent:四角色多 Agent 协作软件开发平台

    Eeyore104 在 GitHub 开源 Ymir-Agent,一个多 Agent 协作软件开发平台:输入一句自然语言需求,产品经理、架构师、工程师、QA 四个 AI 角色按可配置 SOP 流水线依次产出 PRD、架构设计、可运行代码和评测报告,关键节点支持人工审批驳回。平台采用自研状态机编排内核,提供 OpenAI 兼容模型网关(分级路由 + token 预算)、Docker 沙箱和统一版本管理,基于 Python 3.12/FastAPI 与 Vue 3 构建,MIT 协议开源。

  28. Hugging Face · 新模型:abliterated68

    Swift-1.5-Qwen3.8-Flash-Next-GSQ-RCO-abliterated 上架 Hugging Face:144 张量字节级移植去对齐

    cc1244578151 在 Hugging Face 发布 UkisAI Swift-1.5-Qwen3.8-Flash-Next(Qwen3.8-Flash-Next 的推理高效量化衍生版)的 abliterated 版本,通过对已量化 GGUF 做 GGUF 字节级张量移植,替换写回残差流的 144 个张量(约 41.1B 参数,占 125B 主模型的 33%),移除拒绝方向,donor 权重来自 orcarouter 的去对齐版本。发布 IQ3_S / IQ3_XXS / IQ2_XS / Q2_0 四档量化,每档与上游差距不超过 0.2%,并给出逐张量 blake2b 校验(144 变更 / 1080 不变 / 0 例外)。

    推荐理由:原文给出了逐张量 blake2b 校验、BF16 对比和推理效率前后数据,读者可以据此判断这种字节级移植的去对齐质量。

  29. GitHub · 3D 生成新仓库22

    Mongoose Core 开源:居民 Right to Manage(RTM)公司的管理工具与统一文档搜索引擎

    GitHub 新仓库 mikehoff/mongoose-core 开源,提供英国居民 Right to Manage(RTM)公司所需的全部管理功能,包括租户登记、服务费催缴与收据、信托账目、Metro Bank CSV 导入对账,以及基于 SQLite FTS5、含 OCR 与可选 embeddings 的统一搜索引擎。它可独立运行,也可作为 mongoose-assistant 的底层;代码以 MIT 许可发布,测试覆盖 394-398 项。

  30. GitHub · 3D 生成新仓库43

    开源代理网关 Agentgateway:基于 MCP 与 A2A 协议的 AI 原生代理通信网关

    Agentgateway 是一个开源代理网关,基于 MCP 与 A2A 协议,为 agent-to-LLM、agent-to-tool、agent-to-agent 通信提供安全、可观测性和治理能力。它支持通过统一 OpenAI 兼容 API 路由 OpenAI、Anthropic、Gemini、Bedrock 等主流 LLM 提供商,提供预算与支出控制、负载均衡、故障转移,并支持 JWT/OAuth 认证、细粒度 RBAC、速率限制与 OpenTelemetry 指标、日志和追踪,可独立部署或通过 Kubernetes 控制器部署。

  31. GitHub · 3D 生成新仓库22

    RhythrosaLabs 开源 SoundStorm:集文本生成音频与 GPT-4 协作于一体的 AI 音乐工作室

    RhythrosaLabs 在 GitHub 发布开源 Python 项目 SoundStorm,可从文本生成音频、批量制作采样包、通过 Pedalboard 应用 EQ/混响等效果、算法作曲与随机化 MIDI,并内置 GPT-4 聊天助手。音频生成经 Replicate 调用,需配置 OpenAI 和 Replicate 的 API key,项目采用 MIT 许可证。

  32. GitHub · 3D 生成新仓库22

    DIALibGen 登陆 Homebrew:DIA 谱图库生成工具一键安装 macOS

    DIALibGen 现已通过 okohlbacher/homebrew-dialibrarygenerator tap 在 macOS 14 及以上(Apple Silicon 和 Intel)提供 brew install --cask 安装,包含 CLI 与桌面版两个 cask。CLI 可在单一 TOPP 兼容可执行文件中生成、精炼和调优 DIA 谱图库,发行包经 Developer ID 签名与公证,内置 AlphaPeptDeep 的三个预测模型、运行时库和 CPU 训练,无需 Python 环境或下载模型。配套的 update-casks 工作流每六小时检查发布、校验双架构 SHA-256 并在双平台上自动审计安装与卸载。

  33. GitHub · 3D 生成新仓库39

    VibeUI:面向 Bootstrap 用户的 Vue 3 组件库

    GitHub 上的开源项目 VibeUI 是一套封装 Bootstrap 5.3 的 Vue 3 组件库,提供 60+ 严格 TypeScript 类型组件,自动处理 JS 生命周期、v-model、ID 生成与 ARIA 可访问性,支持 WCAG 2.4.3 焦点管理,并附带拖拽、日历、canvas 图表等交互套件。包内含 llms.txt 供 AI 助手查阅文档,通过 npm install @velkymx/vibeui 安装。