跳到正文
10月24日周六
  1. GitHub · 灵魂体仓库58

    Local Quench 发布:在你已有的 GPU 上运行本地 LLM 的 AI 编码智能体

    Local Quench 发布,这是一款面向本地 LLM 的 AI 编码智能体,支持 LM Studio、llama.cpp、Ollama 和 vLLM,代码不出本机,提供 Windows、Linux 和 Android 版本。它针对本地模型常见失误(宣布步骤后停止、改测试直到通过等)设计了 harness 纠偏规则,且每条规则可单独关闭并测量;内置 QuenchBench 基准,还可通过 quenchbench.py 一条命令跑 SWE-bench Verified、Terminal-Bench 2.0、Aider Polyglot 等评测。8 GB VRAM 即可起步,应用自带模型顾问推荐适配显存的模型和量化方案。源码不开放,仓库提供发布包、issue 跟踪和基准脚本。

    推荐理由:为本地模型设计了针对常见失误的 harness 纠偏机制,且每条规则都可单独关闭并用 QuenchBench 实测,方法可迁移到自己的本地部署。

  2. GitHub · 灵魂体仓库45

    whetstone:面向 Apple Silicon 的 MLX 专属仓库维护 Agent(michaeldtimpe/whetstone)

    whetstone 是一个仅支持 MLX、运行在 Apple Silicon 上的仓库维护 Agent,可对任意仓库添加功能、修复 bug、更新文档或审查维护,并自动提交 PR,当前已发布 v1.8.0。BFCL n=1240 agent 评测中 irrelevance 达 100%(240/240,+9.58pp),总分 90.24%(+1.85pp);SWE-bench n=75 与 v1.7 基本持平。项目通过 SpecDD .sdd 契约链在写入时约束行为,要求 Python 3.11+、localhost:8000 的 oMLX 服务器和 ≥64 GB 统一内存。

  3. GitHub · 灵魂体仓库66

    skuld:按模型架构估算推理所需显存的 LLM 内存计算器

    michaeldtimpe 在 GitHub 开源了 LLM 内存计算器 skuld(在线版 skuld.zoleb.com),输入模型名即可估算推理所需的 VRAM 或统一内存。它按注意力类型和 MoE 拓扑分支计算 KV cache,而非套用单一公式,例如 DeepSeek 的 MLA 在 32k 上下文 BF16 下 KV 约 2 GiB,朴素计算会高估到约 107 GiB;另处理 GQA、MoE 总参/激活参数、Qwen 3.5/3.6 混合注意力和 Gemma 滑动窗口。

    推荐理由:作者解释了为何按注意力类型和 MoE 拓扑分支计算,并给出 MLA 场景下 2 GiB 对 107 GiB 的对照数据,方法可直接复用。

  4. GitHub · 灵魂体仓库49

    研究发现:LLM 对心理健康帖子的分类更贴近专家而非自述标签

    针对 Kallstenius 等人原研究的 Matters Arising 评论发现,三名临床心理学家盲评了 Kaggle 心理健康语料的 103 条帖子,GPT-4o-mini 与专家共识的一致率为 61%,与原始自述标签仅 42%;SVM 复现结果相反(46% 和 57%)。这说明原研究中 TF-IDF+SVM(95%)优于 LLM(65%)的结论可能受标签质量影响。

  5. GitHub · 灵魂体仓库79

    PolyStrata 开源:在普通 PC 上本地运行十个大模型

    VecSzn 发布 PolyStrata,一个基于 Strata 的本地推理工具,在普通 PC 的显卡、内存和处理器之间分摊计算,可运行 Qwen3.8-Flash-Next、GLM 5.3 Flash、DeepSeek V4 Flash、LFM2.5、Flint、Qwen3.6-35B-A3B 等十个模型。Qwen3.8-Flash-Next 在 RTX 5070 上以 IQ3_S 量化写入 53 tokens/s,DeepSeek V4 Flash 91 GB 文件在 RTX 5090 工作站写入 56 tokens/s;在 8 GB 显存笔记本上,PolyStrata 读取提示词比 llama.cpp b11540 快 2.7 到 3.5 倍。

    推荐理由:仓库给出了各模型在不同量化档位下的读写速度实测,并与 llama.cpp 在同一台笔记本上做了直接对比。

  6. GitHub · 灵魂体仓库66

    开源工具 openrouter-endpoint-watch 监控 OpenRouter 端点元数据变更

    开发者 hjongc 发布开源工具 openrouter-endpoint-watch(命令 oewatch),每小时检查 OpenRouter 端点元数据,仅在量化翻转、提供方消失、参数被移除等变化发生时保存快照并逐项报告变化。工具按 profile 输出 ok、degraded 或 blocked 三种路由决策,blocked 时以退出码 7 在花费 token 前拦截运行;仅依赖 Python 3.11+ 标准库,无需 API key。作者因两次事故(2026-09-28 Reka 量化变 unknown、2026-10-08 Parasail 转 fp4 且 NextBit 消失)而开发此工具,仓库每小时自检 z-ai/glm-5.3-flash 并将变更记录到 HISTORY.md。

    推荐理由:作者用两次真实的提供方变更事件说明工具价值,读者可以借此理解 OpenRouter 端点元数据波动对依赖固定量化配置的流水线有何影响。

  7. Reddit · r/LocalLLaMA32

    mini-AGI 动态持续学习模型在 8GB VRAM GPU 上从零训练一个月后的基准测试

    开发者在 8GB VRAM GPU 上从零训练 mini-AGI(动态持续学习模型)一个月,并公布基准测试结果。测试对比了 frozen 与 best effort 两种模式,后者允许模型在评测数据集上随任务特化,展示了一般 LLM 不具备的持续学习能力。项目完整代码和权重已在 repo 公开。

  8. Reddit · r/LocalLLaMA54

    ReVolta 0.1.2 发布:DFlash 投机解码跑通 4× V100

    ReVolta 维护者发布 vLLM 分支 0.1.2 版,在 4× V100(SM70、无 NVLink)上实现 DFlash2 投机解码,作者称可能是首个在 Volta 上跑通的案例。drafter 使用 incoai 的 DFlash2 checkpoint,从目标模型 hidden states 起草 8-token 块并由目标单次验证;测试模型为 Qwen3.8 Flash-Next(AWQ)、512K 上下文、FP8 KV 加 CPU offload、TP4 + DCP2。实测单请求英文代码 201 tok/s(对比 163)、英文推理 195(对比 163)、中文 85–101(对比 100–105)、8 并发混合 331(对比 357);KV 池增大约 10% 至 1.27M tokens。

  9. Reddit · r/SillyTavernAI30

    Proxy Party:一个面板聚合多家逆向代理,支持 Claude、Kimi、ChatGPT 等

    Reddit 用户发布开源项目 Proxy Party,将 Claude、Argon、Kimi、ChatGPT、MiMo、Meta Muse 等多个服务的订阅账号(非 API)聚合到一个逆向代理下,每项服务可挂多个账号。项目提供浏览器端 dashboard 便于登录,基于 vibe coding 完成,可 fork 或提 PR。作者指出除 Claude 外,各订阅版输出的限制普遍更严格。

  10. GitHub · 3D 生成新仓库22

    jarutosurano 开源 jw-talk-coach:基于 MkDocs Material 的演讲辅导系统

    GitHub 新仓库 jw-talk-coach 是一套基于 MkDocs Material 的公众演讲辅导系统,支持 5min/10min/30min 三类演讲及 field ministry 脚本,可让 Claude 根据大纲生成 summary.md 和带时序的完整脚本。项目通过 GitHub Actions 自动部署到 GitHub Pages,并提供 push-to-notion.py 将脚本推送到 Notion。

  11. GitHub · 3D 生成新仓库14

    ILam2010 开源 family-memory-assistant:基于 Telegram 的家庭记忆助手聊天机器人

    GitHub 新仓库 family-memory-assistant 上线,是一个基于 Telegram 的 AI 聊天机器人,帮助家庭保存、整理和检索家庭记忆。它采用混合对话界面和检索增强生成(RAG)技术,仓库包含 backend/app 目录、.env.example 与 requirements.txt,目前尚无 star、fork 和 release。

  12. GitHub · 3D 生成新仓库30

    arunshar/rag-interview-chapters:57 个学习单元的 RAG 面试白板学习指南

    GitHub 仓库 arunshar/rag-interview-chapters 将《The RAG Interview》一书改写成 57 个 Markdown 学习单元,用于 RAG 面试、系统设计讨论和生产工程复盘。每个单元包含 TL;DR、Decoder 术语表、Mermaid 图、约 100 词的白板讲解和面试陷阱问答,并提供面向面试、完整技术、生产系统和评估信任等多条阅读路径。网站由 Pandoc 从 Markdown 生成并部署在 GitHub Pages,另有可下载的 rag-interview-chapters.zip 便携包,以及可在 Codex 中复用的 rag-interview-study-edition 技能。

  13. GitHub · 3D 生成新仓库2

    davisholland00 在 GitHub 上传 "generational-wealth" 仓库

    GitHub 用户 davisholland00 上传了名为 generational-wealth 的新仓库。仓库暂无描述、README 说明和主题标签,仅含一个 index (1).html 文件,目前为 0 stars、0 watchers、0 forks,也无 Releases、Packages 或其他贡献者记录。

  14. GitHub · 3D 生成新仓库35

    cattle-raising-assistant:基于 RAG 的养牛咨询助手开源项目

    这是一个开源 AI RAG 助手项目,帮助养牛生产者快速查询 INTA 的动物健康技术研究报告,无需手动翻阅分散的 PDF。项目实现了 BM25、Gemini 向量检索和混合检索三种策略,经评估后选定 BM25 部署,在 42 题测试集上 Hit Rate@5 达 90.5%。系统默认通过 Groq API 调用 openai/gpt-oss-120b 生成带来源引用的西班牙语答案,并以 FastAPI、Streamlit、Postgres 和 Kestra 构建完整流水线,不提供诊断或用药建议。

  15. GitHub · 3D 生成新仓库32

    rag-qa-assistant:基于 RAG 的文档问答开源项目

    开源项目 rag-qa-assistant 基于 RAG 架构,对自有文档(.txt、.md、.pdf)切块检索并用 Anthropic Claude API 生成带来源引用的答案,支持 TF-IDF 或 sentence-transformers + FAISS 两种检索方式,提供 FastAPI 接口和 Streamlit UI。在 12 道测试题上,TF-IDF 加轻量词干化后 hit@4 达 100%(12/12)、MRR 1.00;无 API key 时可回退展示最佳段落。

  16. GitHub · 3D 生成新仓库16

    GitHub 开源仓库 MarieGhitta/RAG_against_the_machine

    GitHub 上线开源仓库 MarieGhitta/RAG_against_the_machine,包含 src、tests、data、datasets_public、public 等目录,附带 README、Makefile、pyproject.toml、uv.lock 及手动测试脚本 test_retriever_manual.py。仓库 README 未提供具体功能说明。

  17. GitHub · 3D 生成新仓库20

    SIRAJcrypto11/snishop-content-production:印尼语数字内容生产流水线仓库

    SNISHOP 的 snishop-content-production 仓库提供从 Markdown 稿件生成 PDF、Excel workbook 及可选 flyer 的印尼语内容生产流水线,由 Founder & Lead Developer Siraj Nur Ihrom 负责。流水线已可用,但对 SNISHOP-PUBLISHING v2.0 标准的产品认证尚未完成,旧目录中的 150、300、200 prompt 主题包等仍需审计。

  18. prompts.chat · 每日 prompt21

    prompts.chat 更新「Echoes of the Rust Age」图像编辑 prompt:从纯文本升级为结构化 JSON 格式

    prompts.chat 对「Echoes of the Rust Age」图像编辑 prompt 进行更新,将原单段文本改为结构化(STRUCTURED)JSON 格式。新版保留将照片中一男一女置于废土锈蚀峡谷的场景设定,并补充了 2189 年背景、光线、色板、人物服装动作及 negative_prompt 等细节字段。

  19. prompts.chat · 每日 prompt13

    prompts.chat 更新 Code Review Specialist 提示词

    prompts.chat 更新了 Code Review Specialist 提示词,新版要求 AI 从代码质量与可读性、编码规范、优化机会、潜在 bug 等方面进行详细分析,并给出可操作的改进建议。新版还新增了 ${language}、${framework}、${focusAreas} 三个可自定义变量,方便用户指定编程语言、框架和审查重点。

  20. prompts.chat · 每日 prompt21

    prompts.chat 更新提示词:技术联合创始人——一起打造真正可上线的产品

    prompts.chat 更新了一条名为「The Technical Co-Founder: Building Real Products Together」的提示词,让 AI 充当 CTO 角色,将用户的想法转化为可直接上线的产品。该提示词设计了 5 阶段开发流程:Discovery & Validation、Strategic Blueprint、Iterative Development、Quality & Polish、Launch Readiness & Knowledge Transfer,并约定用户担任 CEO 掌握最终决策、AI 提供无术语的方案与利弊权衡。

  21. prompts.chat · 每日 prompt13

    prompts.chat 更新 Article Summarizer 提示词:移除作者参数并简化结构

    prompts.chat 更新了 Article Summarizer 提示词,移除 ${author} 变量,任务改为对指定 ${title} 文章提取要点和主题、输出简洁摘要。新规则限定摘要长度 ${length:150} 词(默认 150 词),要求保持原意并使用清晰专业的语言,同时将原有的三段式结构替换为列出 ${title} 和 ${length:150} 变量的简化格式。

  22. prompts.chat · 每日 prompt17

    prompts.chat 更新 Code Review Specialist 提示词模板

    prompts.chat 对 "Code Review Specialist" 提示词进行了重构:新版将原自由文本格式改为结构化 YAML,加入 messages、metadata、task、deliverables、output 与 constraints 字段,并新增 ${language}、${framework}、${focusAreas} 等可定制变量,要求反馈保持专业语气、聚焦重大问题、便于开发者落地实施。

  23. prompts.chat · 每日 prompt5

    prompts.chat 更新 Code Review Specialist 提示词

    prompts.chat 的每日 prompt 更新了 Code Review Specialist(代码审查专家)提示词,由原 messages 结构改写为直接指令格式。新提示词要求 AI 扮演经验丰富的开发者审查用户代码,聚焦代码质量与可读性、编码规范符合度、优化与性能改进机会以及潜在 bug 识别,并提供清晰可操作、带示例的反馈。该条目同时标记为 TRUE 并更换了提交者。

  24. prompts.chat · 每日 prompt13

    prompts.chat 更新 "Video" 提示词

    prompts.chat 的每日 prompt 更新中,"Video" 条目被替换为一条视频生成提示词,内容为一个神秘酒保在昏暗酒吧中将发光绿色液体倒入玻璃杯的电影感特写,标注 4k、超写实、慢动作。该条目由用户以 CSV 差异形式提交,替换了原先让模型扮演社交平台专家的旧提示词。

  25. prompts.chat · 每日 prompt25

    prompts.chat 新增 prompt:God of Prompt

    prompts.chat 收录新 prompt「God of Prompt」,用于为 ChatGPT、Claude 等语言模型生成高质量提示词。该 prompt 整合批判性、创造性、系统性与反思性四种思维风格,采用「AI Prompt Generator System」角色,并规定了分段结构、7-9 条功能列举、上限 13 节的响应结构等格式规则。它还可调用网络浏览、视觉分析、代码解释和图像生成等外部能力,并对每一步进行核对验证。

  26. prompts.chat · 每日 prompt29

    prompts.chat 新增 prompt:生成 Basecamp CLI 单页速查表

    prompts.chat 新增一条 prompt,用于让模型生成一页打印优化的 Basecamp 及其官方 CLI(basecamp)速查表和口袋参考卡。该 prompt 要求页面限定 US Letter 尺寸,左 60% 放核心 CLI 命令参考,右 40% 放 Agent 不变量、profiles、配置(.basecamp/config.json)与排错内容,覆盖安装认证、todos、Kanban 卡片、消息提及([@Name](mention:SGID))等模式,优先输出可打印的 Markdown 或单页 PDF。

  27. prompts.chat · 每日 prompt32

    新增提示词:扮演家庭堆肥教练

    prompts.chat 新增一条「家庭堆肥教练」提示词,帮助新手或曾失败的用户按自家空间、气候、厨余量和每周可投入时间搭建可持续的堆肥系统。提示词要求 AI 先追问缺失信息,再分九个部分指导:方法对比、安装步骤、绿料棕料比例、每周 10-15 分钟例行流程、季节计划、至少八种问题的排障表、堆肥收获使用和进度记录模板,并明确禁止在家庭冷堆肥中加入肉类、乳制品和宠物粪便。

  28. prompts.chat · 每日 prompt39

    prompts.chat 新增 prompt:餐厅菜单过敏原矩阵生成器(JSON 输出)

    prompts.chat 收录新 prompt「Restaurant Menu Allergen Matrix Builder」,让模型扮演食品安全顾问,把餐厅菜单和配料转化为单一严格 JSON 过敏原包。输出含逐菜过敏原矩阵、隐藏过敏原提示、交叉接触风险、供应商问题与员工应答脚本,过敏原状态仅限 contains / may_contain_cross_contact / unknown_verify / not_in_listed_ingredients,绝不允许标注“free”或“safe”,默认适用 EU 14 种受规管过敏原。

  29. prompts.chat · 每日 prompt25

    新增提示词:家庭与宠物看护交接清单(YAML)

    prompts.chat 收录了一条新提示词「家庭与宠物看护交接清单(YAML)」,可将零散笔记整理成供房屋或宠物看护人使用的 YAML 交接清单,覆盖日常作息、宠物护理、植物、家居系统、安防、紧急情况与联系人。提示词要求指令写成陌生人可执行的具体步骤,时间关键事项纳入带精确时间的日程,禁止编造药物剂量等信息,缺失处标注 OWNER TO FILL,且不得以明文包含密码或 Wi-Fi 密钥。

  30. prompts.chat · 每日 prompt17

    prompts.chat 新增提示词:日本莳绘金漆赏月兔芒草装饰板

    prompts.chat 新增由 @f 贡献的图像生成提示词"日本莳绘金漆赏月兔芒草装饰板"。提示词描述一块宽幅日本莳绘漆板:两只白兔坐在银色芒草间仰望金黄满月,采用黑漆背景、高莳绘浮雕与螺钿镶嵌、梨地金箔等工艺细节,输出 16:9 横幅画面,并要求不含文字、书法、印章与标识。

  31. prompts.chat · 每日 prompt14

    prompts.chat 新增提示词:黄金时刻海崖上真实感大西洋海鹦群落

    prompts.chat 每日 prompt 库新增一条图像生成提示词「Photoreal Atlantic Puffin Colony on a Sea Cliff at Golden Hour」,用于生成黄金时刻海崖上的大西洋海鹦群落实拍风格照片。提示词描述了四只海鹦叼沙鳗、悬崖洞穴与海浪等细节,指定 16:9 宽幅、长焦浅景深,并要求画面中无人物、文字与水印。

  32. prompts.chat · 每日 prompt31

    新增 prompt:喜马拉雅悬崖修道院场景概念简报生成器

    prompts.chat 收录新 prompt「Himalayan Cliffside Monastery Scene Concept Brief Builder」,让 AI 扮演电影级环境设计师,为悬崖修道院场景生成可用于静态图像生成及后续视频动画的制作简报。该 prompt 通过自定义变量设定山景、时间天气、修道院外观、视觉风格和氛围,先询问相机视角等缺失信息,再产出包含场景概述、修道院与悬崖、经幡等分节的简报,重点加入经幡飘动、云雾流动、香烟升起等易动画元素。

  33. prompts.chat · 每日 prompt22

    prompts.chat 新增提示词:雾中黎明下的喜马拉雅悬崖修道院与经幡

    prompts.chat 收录用户 @f 贡献的新提示词「Cliffside Himalayan Monastery with Prayer Flags at Misty Dawn」。该提示词描述了一座依附于花岗岩悬崖的白色喜马拉雅修道院、五串彩色经幡、峡谷河流与雪山日出场景,要求照片级写实风格、16:9 宽画幅,且画面中不出现人物、文字、标志或 logo。

  34. prompts.chat · 每日 prompt26

    prompts.chat 新增图生视频 prompt:悬崖喜马拉雅寺院晨雾动画(6 秒镜头)

    prompts.chat 收录一条图生视频 prompt,以"Cliffside Himalayan Monastery with Prayer Flags at Misty Dawn"图像为精确首帧,生成时长 6 秒的电影感镜头。动画要求经幡在微风中持续飘动但不脱离绳线、峡谷白雾自左向右缓慢漂移、炊烟顺风弯曲,并用一次缓慢推镜朝向寺院,全程无剪切、无新物体、无人物、无文字。