跳到正文
10月22日周四
  1. GitHub · 去对齐工具与仓库44

    Intel60:用 Claude Haiku 每天把安全新闻压缩成 60 词卡片的开源项目

    GitHub 上的开源项目 Intel60 每 30 分钟抓取 BleepingComputer 等 8 个安全资讯源和 CISA KEV 目录,用 Claude Haiku 4.5 为每条新闻生成 60 词卡片,标注严重级别并附 NVD CVSS 评分与 FIRST EPSS 利用概率。关键故事经 ntfy 推送,支持本地 watchlist 过滤、补丁期限倒计时和 7 天趋势,AI 每条只跑一次、读者数不影响成本,Anthropic API 成本约 $3–5/月。

  2. GitHub · 去对齐工具与仓库60

    groundwork 发布:为 Claude Code 和 Codex 配置 AI 编码工作流的插件

    enebin 发布 groundwork,一个 Claude Code 和 Codex 插件,通过 /groundwork:onboarding 的 8 项选择为仓库配置 issue 跟踪、工作流、分支与发布策略、架构、AI 代码审查和 UI QA,结果写入 GROUNDWORK.md、AGENTS.md 和 ARCHITECTURE.md。每个选项以 bundle 形式给出优缺点、token 成本和针对仓库的推荐;6 个代码 reviewer 并行运行,UI 变更每次运行都由截图测试验证,确认的审查问题交给独立上下文的 fixer agent 修复。配置提交到仓库后,队友安装插件即可沿用相同规则,支持 eco/normal/sport 三档彻底度预设,采用 MIT 许可。

    推荐理由:原文完整列出了 8 个 onboarding 选项、各 bundle 的 token 成本与 6 个并行 reviewer 的分工,读者可据此评估是否适配自己的仓库工作流。

  3. GitHub · 去对齐工具与仓库46

    decision-qa:本地 LLM 决策问答 Web 应用「Вердикт」

    GitHub 项目 chkalofff/decision-qa 推出 Web 应用「Вердикт」,可向本地 LLM 提问并获取答案概率分布,通过 SGLang(/v1/decisions,MLX 后端)、Cloudflare Clef(/v1/systemone)和 llama.cpp 运行的 GGUF 模型接入,也支持任意远程云模型。多模型可同时运行并对比答案,提供 macOS 与 Windows 安装包、模型管理页面及 API 密钥管理,双模型同时运行约需 64 GB 统一内存。

  4. GitHub · 去对齐工具与仓库26

    Athletix:基于 Strava 历史数据的训练负荷分析系统

    Athletix 是一个基于 Strava 运动历史数据构建训练负荷分析的开源项目,通过计算急慢性负荷比(ACWR)评估疲劳与受伤风险,并用回归模型结合 Riegel 公式估算比赛表现。系统采用 Streamlit 界面与八模块架构,通过 OAuth 2.0 同步 Strava API 并以 Supabase 持久化数据,还提供解读指标的 LLM 对话智能体。项目源自 UNACH 数据科学与 AI 课程的课程作业。

  5. GitHub · 灵魂体仓库69

    omni-api 发布:把聊天、决策、嵌入、图像、视频、语音等本地模型统一到一个端口

    nvkudva 发布开源 CLI 工具 omni,在 127.0.0.1:10000 用一个网关统一运行和代理本地模型,应用按 chat、decide、embed、image、video、stt、tts 等角色调用而非模型名,兼容 OpenAI 格式,改 base_url 即可用 OpenAI SDK 接入。各角色独立进程运行并带健康检查与自动重启,空闲 10 分钟自动卸载模型,可钉住常驻;Apple Silicon 上 chat 约 140 tok/s(qwen2.5:3b)、warm embed 0.03–0.15 s、tts 约 12 倍实时,还附带浏览器 playground 可查看每角色的实时请求日志。

    推荐理由:原文给出完整的架构说明、各角色默认模型与 Apple Silicon 实测数据,读者可以据此评估这套单端口本地推理网关是否值得部署。

  6. GitHub · 灵魂体仓库34

    clai:面向任意 AI 任务的命令行上下文喂送工具

    开源命令行工具 clai 是一个为任意 AI 任务输送上下文的 context-feeder,测试覆盖率达 91.0%。它支持 shell 上下文注入、会话导入、Agent Skills、Profiles 和 MCP 客户端,可经 curl、go install 或 Nix flake 安装,也能作为 Go 库嵌入 agent 循环并支持结构化输出。工具接入了 OpenAI、Anthropic、Gemini、Ollama、DeepSeek、Mistral 等多家供应商。

  7. GitHub · 灵魂体仓库66

    TabAgent 开源:把 LLM Agent 的重复决策蒸馏成毫秒级分类器

    TabAgent 在 GitHub 开源,可将 Agent 反复调用大模型做出的封闭集决策(工具入围、技能选择、模型路由等)蒸馏为轻量 CatBoost 分类头。在 AppWorld 工具入围上 Recall@9 达 92-100,单次决策 2.682 ms、成本 2.0×10⁻⁷ 美元,对比 GPT-5.4 入围器的 7.50 s 和 0.052 美元;关键是基于轨迹提取的特征,去掉特征卡后各分类头都退化到 P@R 0.10-0.21。论文编号 arXiv 2602.16429,支持 pip 安装、HTTP 服务热替换 LLM 调用,结果可用 make reproduce 在 CPU 上复现,Apache-2.0 协议。

    推荐理由:原文给出多个基准的前后对比数字和完整复现命令,读者可以自己评估用轻量分类头替换 Agent 中 LLM 决策调用的实际收益。

  8. GitHub · 灵魂体仓库11

    LLM-HW:GitHub 开源 LLM 作业仓库,涵盖 n-gram、KenLM 与 Gensim、FastText 实验

    GitHub 开源仓库 Can1017/LLM-HW 整理了大语言模型课程作业代码与实验报告,hw1 包含 n-gram、KenLM 与 Stupid Backoff,hw2 包含 Gensim、FastText 与新闻版面分类。各目录独立保存代码、配置、报告与图表,通过 `git clone --recurse-submodules` 可获取完整代码及 KenLM 子模块。

  9. GitHub · 灵魂体仓库40

    kfet/agent:Go 实现的模型无关 coding-agent 运行时

    kfet/agent 是一个用 Go 编写的小型模型无关 coding-agent 运行时,把 LLM 事件流转换为工具调用流,内置重试、steering、follow-up、abort 和 thinking-budget clamping,并附带 bash、read、write、edit、editdiff、find、grep、imageresize、plan 标准编码工具箱。它只依赖 kfet/ai、kfet/pinexec、golang.org/x/image 和 golang.org/x/text,并通过 forbidden_imports_test.go 保证依赖图不越界,覆盖率达 100%,以 MIT 许可开源,部分代码移植自 pi-mono。

  10. GitHub · 灵魂体仓库75

    homelab-atlas:在二手硬件上跑通 Qwen3.8、GLM-5.3-Flash 与 DeepSeek V4.1 Flash 的实测手册

    akapug 发布 homelab-atlas 仓库,用 2017 服务器、2019 工作站、Ryzen 桌面等四台旧机器实测本地大模型部署,如 DeepSeek V4.1 Flash(748B MoE)在 RTX 6000 + Optane 上解码 12.69 tok/s,GLM-5.3-Flash 在 3090 Ti 上达 26.69 tok/s。仓库提供 PATCHES.md 补丁索引、按硬件分类的复现命令、失败记录,以及浏览器端 Recipe Maker 规划工具,用于在下载权重前预判 MoE 模型在 VRAM、DRAM、PMem 上的布局与速度。

    推荐理由:用二手服务器、老工作站和Intel冷门卡跑通大MoE模型,每个数字都附条件、命令和补丁来源,方法可直接照搬。

  11. GitHub · 灵魂体仓库48

    opencode-personal:OpenCode 个人 fork 发布,基于 1.14.48 增加 Qwen3 兼容与安全加固

    OpenCode 个人 fork「opencode-personal」基于 OpenCode 1.14.48 源码,独立于上游项目维护,可在终端和浏览器中使用的开源 AI coding agent。该 fork 新增 /usage 中 Anthropic (Claude)、ChatGPT OAuth、ZAI、ClinePass 的用量与配额显示、Qwen3 兼容(含 thinking-mode 配置)、本地语义搜索(zvec)、Rust/WASM diff 层及 ACP 终端后端(如 Zed)支持,并包含 SSRF 防护、CORS 校验、symlink 安全等多项安全加固。

  12. GitHub · 灵魂体仓库44

    360-skills:为 AI coding agent 提供资深专家级 Agent Skills 的开源合集

    GitHub 上的 360-skills 是一个开源 Agent Skills 合集,将资深专家的流程、判断和质量关卡打包成可安装的技能文件夹,帮助 AI coding agent 产出可审查的高质量工作。技能遵循开放 Agent Skills 标准,可通过 skills.sh 安装到 Claude Code、Cursor、Codex、Copilot、Windsurf、Gem CLI 等 70+ 个 agent,包含 360-backend-audit、360-blueprint、360-execute、360-expert-review、360-faculty、360-optimize、360-token-efficiency 七项技能,采用 MIT 许可证。

  13. GitHub · 灵魂体仓库41

    SharpAI 2.0 发布:.NET 本地 AI 推理库,兼容 Ollama 与 OpenAI API

    SharpAI 2.0 发布,这是一个 .NET 本地 AI 推理库,支持嵌入、文本补全和聊天补全,仅使用 GGUF 模型,基于 LlamaSharp 构建,可提供 Ollama 兼容和 OpenAI 兼容的 REST API。新版本默认按各模型 GGUF 内置聊天模板渲染请求,重建了 React 19 仪表盘,新增多租户认证与 RBAC(默认关闭)、四种数据库支持、Prometheus/OTLP 可观测性,以及 C#、JavaScript/TypeScript、Python SDK。所有推理均在本地完成,无需云端依赖。

  14. GitHub · 灵魂体仓库26

    combinatoratrix-ai/claude-models-list:每日自动更新的 Anthropic 可用模型 ID 列表

    GitHub 仓库 combinatoratrix-ai/claude-models-list 通过 GitHub Actions 每日从 Anthropic 官方 GET /v1/models 端点抓取模型 ID,以公开 JSON 快照形式发布,供没有 API key 的环境只读查询。最新快照(2026-10-22 刷新)列出 Claude Haiku 5.5、Sonnet 5.5、Opus 5.5 等模型,近期模型最大输入 1,000,000 token、最大输出 128,000 token。仓库为只读镜像而非 API 代理,采用 MIT License,仅按更新所用 API key 可见的模型范围生成快照。

  15. GitHub · 灵魂体仓库57

    BlackoutOps 仓库发布离线自我修复的 IT 运维 Agent,目标部署 Jetson AGX Thor

    BlackoutOps 项目发布,目标在断网的边缘设备 Jetson AGX Thor 上全本地运行大模型推论与小型 RAG,做出能自主诊断修复 IT 故障的 Agent,开发验证机为 NVIDIA DGX Spark(GB10,128 GB unified memory)。2026-10-20 起正式推论引擎由 TensorRT-LLM 改为 vLLM,跑 Nemotron-3.5-Bolt-74B-A9B-24GB(Spark 舞台用 Nemotron-3.5-Lightning-30B-A3B-NVFP4,DSpark speculative decoding 下 decode 提速 27–49%)。

    推荐理由:项目给出了完整的部署架构、故障目录规模和多轮实测数据,读者可据此了解全离线自我修复运维 Agent 的工程做法。

  16. GitHub · 灵魂体仓库64

    royalskynet/orchestrator 发布多模型工单调度器 dc/dcq

    GitHub 仓库 royalskynet/orchestrator(原名 dispatch-router,2026-10-22 改名)发布工单调度器:一个任务档进、由工单自带验收脚本 wo-verify 机械判定成败后出结果,不采信模型自述。

    推荐理由:README 详细写了验收脚本判定成败、贝叶斯加权排序和多层 fallback 的具体做法,可作多模型调度的可复用参考。

  17. GitHub · 灵魂体仓库51

    Leiwe & Partners 发布 barium-watermarking 本地绿名单水印检测工具

    Leiwe & Partners 在 GitHub 发布 barium-watermarking,一个本地运行、零托管、仅依赖标准库的 Kirchenbauer 绿名单 LLM 水印检测与参考嵌入工具,不依赖 torch、模型权重或网络调用。检测用单比例 z 检验重新推导绿名单,z > 4 表示未加水印文本超阈值的概率约 3×10⁻⁵;低于 25 个计分 token 判为 inconclusive,低熵文本(代码、事实补全)实际不可检测。工具仅检测开放绿名单方案(Hugging Face WatermarkingConfig),不检测 SynthID Text;附带 stdio MCP 服务器和自测 round-trip,MIT 许可,呼应 EU AI Act 第 50(2) 条的机器可读标识要求。

  18. GitHub · 灵魂体仓库44

    agent-gateway:通过自托管网关统一治理 Codex、OpenCode、A2A 智能体与 MCP 工具

    agent-gateway 是 AgentGuide 背后的 Apache-2.0 开源网关引擎,可让团队通过一个自托管控制点治理 Codex、OpenCode、A2A Protocol 1.0 智能体、LLM 和 MCP 工具流量。它支持 VirtualKey 认证、SQLite 持久化、Admin API、声明式 Bundle,并提供 OpenAI、Anthropic、Claude Code 兼容及 MCP 等入口。用户可用 Docker Compose 无需 provider 密钥即可完成 v0.7.1 首次运行冒烟测试,并可选启用 Prometheus、Grafana 等可观测性组件。

  19. Reddit · r/LocalLLaMA53

    用户在 RTX PRO 6000 上用 vLLM 实测 Flint NVFP4 量化版

    Reddit 用户 /u/DataCraftsman 在 RTX PRO 6000 上通过带 flint PR 的 vLLM 跑通了 Flint NVFP4 版本,模型可正常调用其知识库、网页抓取并按给定人设对话。他抽样实测 LiveCodeBench v6 得 82.2(官方称 80.8),SWE-bench Verified 抽测 50/500 任务得 80(官方称 74.1);单流约 110-180 tok/s,64 并发时峰值约 2500 tok/s。他称可能用它替换 qwen3.8 27b,附了 docker compose 配置和 chat_template 修复,并希望社区找到给它加上视觉能力的办法。

  20. GitHub · 3D 生成新仓库16

    API Evangelist 发布 Vectara 独立 API 档案仓库

    API Evangelist 在 GitHub 上线 Vectara 的独立第三方 API 档案,Vectara 是一家提供 RAG 服务的平台,REST API v2 支持语料库管理、文档索引、语义与混合搜索、基于 Hughes Hallucination Evaluation Model(HHEM)的幻觉检测及构建 agents 和 pipelines。该仓库不含任何软件,仅收录 OpenAPI、Postman Collection 等公开机器可读描述,并独立计算 Kin Score 和 Agent Readiness 评分,接受免费更正、重评与下架请求。

  21. GitHub · 3D 生成新仓库18

    基于 LLM 和 RAG 的 AI 文档问答学习助手系统开源项目发布

    一个基于 LLM 和 Retrieval-Augmented Generation (RAG) 的文档问答学习助手项目在 GitHub 开源。系统将文档切分并生成 embeddings,用 Pinecone 向量数据库检索,通过 Groq API 调用 LLM 生成答案,前端用 Streamlit 构建。项目还计划支持多文档格式、对话历史和答案来源引用。

  22. GitHub · 3D 生成新仓库25

    DiagramMagic:AI 图表生成开源仓库(Alexi5000/diagrammagic)

    DiagramMagic 是一个基于 React + Vite 的开源 AI 图表生成工具,通过 Supabase Edge Function 调用 OpenAI API,把英文自然语言提示词转成 Mermaid 图表,支持流程图、时序图、ER 图、甘特图等 9 种类型,内置 12 个模板,可实时预览并导出 SVG。登录用户可借助 Supabase 保存图表到个人库,项目在线体验地址为 diagrammagic.lovable.app。

  23. GitHub · 3D 生成新仓库23

    Apex-Knowledge-Solutions:基于 RAG 的企业知识助手开源仓库

    开源项目 Apex Global 是一个基于 RAG 的企业知识助手,使用 Python、Streamlit、LangChain、OpenAI API(gpt-4o-mini 与 text-embedding-3-small)和 FAISS 构建。它支持从本地 .txt 和 .xlsx 文档检索公司信息,严格限定回答依据检索内容,证据不足时返回 "I don't know."。系统提供带来源引用卡片的管理界面,支持 10MB 文件上限校验、SHA-256 去重、可配置 Top-K 检索与实时文档管理。

  24. GitHub · 3D 生成新仓库31

    HunterAhlquist 开源小型团队项目管理工具 Solo

    开发者 HunterAhlquist 在 GitHub 发布开源项目管理工具 Solo,为小团队提供 Kanban 看板,以 epics/tasks/sub-tasks 作为泳道,支持 SignalR 实时协作编辑、单提供方 OIDC SSO、完整审计日志、主题与扩展。技术栈为 ASP.NET Core Web API、EF Core + PostgreSQL 和 Blazor WASM,一个容器加 Postgres 即可完成部署,服务器发布包内置 MCP 扩展。

  25. GitHub · 去对齐工具与仓库74

    Pollard Weights 开源:按目标设备内存定制模型量化方案

    WestWaters 在 GitHub 开源 pollard-weights,一套按目标设备 RAM/VRAM 预算构建模型量化的工具,通过 pollard-sensitivity 测量各张量的 KL 敏感度后分配比特,保护 attention、router 和 embeddings,压缩专家 FFN。一次测量分配可输出 GGUF、GPTQ、MLX、EXL3、MX/NVFP4 五种格式,配套 pollard-verify 真实重建校验。在 Qwen2.5-7B 和 14B 上,同尺寸 1-bit 混合精度比均匀 trellis 量化困惑度低约 14%;其误差反馈 GPTQ 在 4-bit 恢复约 46% 的 round-to-nearest 误差。

    推荐理由:原文给出了在 Qwen2.5-7B/14B 上与均匀量化的困惑度和 KL 对比数据,读者可以据此评估这套按内存预算分配精度的方法是否值得用。

  26. GitHub · 去对齐工具与仓库60

    Free-LLM 汇总51家免费LLM API与9个本地部署工具

    nejib1 在 GitHub 发布 Free-LLM 仓库,并配套 free-llm.com 在线目录,汇总51家提供免费 LLM API 的服务商共270多个免费模型,区分永久免费、周期续充值和一次性试用额度三类,标注是否需要信用卡、速率限制和 key 获取方式。仓库提供 Python/JavaScript/curl 示例及 Claude Code、Cursor、Codex CLI、OpenCode 配置,附9个本地自托管工具清单,支持中英日韩多语言。

    推荐理由:把51家免费LLM API的限额、是否需信用卡和key获取方式做成结构化目录,可直接按表选服务商省去逐家试用。

  27. GitHub · 去对齐工具与仓库28

    Axolotl:免费开源的 LLM 微调框架

    Axolotl 是一个免费开源的大语言模型微调框架。2026/10 更新加入 Reflection 的 Beam 支持(含 QLoRA 与 NVFP4 expert-parallel LoRA 配置)、DeepSpeed Ulysses 上下文并行及 expert-LoRA resume 修复;此前版本新增 Qwen3.6、MiniCPM5、K2 Horizon 等模型支持,并提供 `axolotl export` 的 GGUF 导出以配合 llama.cpp 和 Ollama 部署。

  28. GitHub · 去对齐工具与仓库30

    Ollama:本地运行开源模型,支持连接 Claude Code、Codex 等工具

    Ollama 是可在本地或云端以完全隐私方式运行开源模型的工具,支持 macOS、Windows 和 Linux 安装,并提供官方 Docker 镜像。用户可通过 ollama launch 连接 Claude Code、Codex、Copilot CLI、DeepSeek Harness、Droid、OpenCode 等集成,也可运行 Gemma 4 等模型,用 REST API 或 Python、JavaScript SDK 进行调用,后端基于 llama.cpp。

  29. GitHub · 去对齐工具与仓库42

    CourtVision:NBA 比赛分析与复盘开源项目

    GitHub 上的 CourtVision 是一个 NBA 比赛分析项目,将球队与球员历史数据、赛前情报、独立预测与市场参考整理成分析报告,赛后对照赛前判断复盘。报告本地生成,公开网站仅静态读取,前端用原生 HTML/CSS/JavaScript,无需数据库或 API Key。2026-10-13 的 V1 评测记录显示:1,231 场历史输入、300 个静态用例、黄金评测集 20 场,生成 15 篇文章中 14/20 条链路合格,DeepEval 128/160 项通过;另有 LightGBM、XGBoost 与 ARIMA 离线预测实验,代码采用 MIT 许可。

  30. GitHub · 去对齐工具与仓库21

    ARIOS:基于 FastAPI 与 LangGraph 的文档智能与 RAG 后端项目

    GitHub 上的 ARIOS 是一个基于 FastAPI 的文档智能与 RAG 后端,可从网页、YouTube 字幕、GitHub 仓库、PDF 和图像提取文本,经 LangGraph 工作流做 spaCy NLP 分析、facebook/bart-large-mnli 零样本分类后存入 SQLite。检索侧用 all-MiniLM-L6-v2 生成嵌入并持久化到 ChromaDB,支持带过滤条件的语义搜索和经 Groq 托管 LLM 的问答。项目处于本地开发阶段,认证与部署尚未实现。

  31. GitHub · 去对齐工具与仓库53

    MergeWatch 开源 AI 代码审查工具,用多个专项 Agent 审查每个 PR

    MergeWatch 发布开源 GitHub App,用 6 个并行专项 Agent(安全、bug、风格、错误处理、测试覆盖、评论准确性)加编排器去重并给出 1-5 合并就绪分,审查每个 PR。支持 Anthropic、LiteLLM、Bedrock 或 Ollama 本地模型,Docker 一键自托管,提供 .mergewatch.yml 按仓库配置、@mergewatch 评论交互、Mermaid 架构图和 Next.js 仪表盘,许可证为 AGPL-3.0。

  32. GitHub · 去对齐工具与仓库29

    llm-youtube-landscape-tracker:面向 LLM 频道的 YouTube 追踪仓库

    GitHub 仓库 jzy13357737150-eng/llm-youtube-landscape-tracker 提供一个公开网页追踪器,聚合一组 LLM 相关 YouTube 频道的最新视频,基于字幕或转写文本而非仅标题生成摘要。管道以 YouTube RSS 监控更新,默认无需付费 API,配置 OPENAI_API_KEY 后可用默认模型 gpt-5 增强摘要;站点由 GitHub Actions 每 6 小时定时重建并通过 CDN 访问。

  33. GitHub · 去对齐工具与仓库21

    rmems/Dioscuri-Cloud:AI 模型训练的云上运维层

    GitHub 仓库 rmems/Dioscuri-Cloud 提供面向学生/免费云额度训练的云运维层,涵盖对象存储(S3)、CUDA 镜像、GPU 节点、SageMaker/Azure ML 托管训练任务、成本追踪与 HCP Terraform 控制平面。训练实现位于配套仓库 rmems/agoge-forger,使用 TRL SFTTrainer + PEFT + bitsandbytes QLoRA,通过 `uv run agoge train-qlora` 执行;仓库以 AWS 为主、Azure 为备份,并用 cost-ledger.md 跟踪云支出。

  34. GitHub · 灵魂体仓库60

    StephanMeijer 开源 llmproxy:LLM API 反向代理工具

    StephanMeijer 在 GitHub 发布 llmproxy,一个带鉴权和限流的反向代理,置于 LLM 客户端与各家 provider API 之间,客户端只持有代理 token,provider 密钥留在服务端,全部配置写在单个 TOML 文件。超限请求按到达顺序排队等待而非直接拒绝,超过 max_wait 默认 120s 才返回 429;上游 429 可按 Retry-After 自动重试,支持 SSE 流式透传、tool_choice 自动补全 shim、Prometheus 指标和 JSON 日志。项目为 Rust 实现,CI 要求 clippy 严格检查且行覆盖率不低于 99%;模型池与 Claude 订阅适配器尚未实现。

    推荐理由:README 完整给出了鉴权、限流排队和凭据隔离的工作方式与配置细节,读者可据此判断是否适合放在自己的客户端与模型 API 之间。

  35. GitHub · 灵魂体仓库59

    zhihu-ai-studio 开源:自托管 AI 内容创作与知乎运营工作台

    作者开源 zhihu-ai-studio,一个部署在自己服务器上的 AI 内容创作与知乎运营工作台,覆盖选题、写作、独立审稿、图文核验、发布与复盘全流程。项目内置 LLM Wiki 写作参考库,基于本地词法检索提供有来源、可链接的写法笔记,初稿须记录借鉴卡 ID 和迁移方式;支持多模型流式对话、长文分节写作与持久化 Markdown 知识库,默认关闭自动发布。

    推荐理由:开源的自托管 AI 写作到知乎发布全流程工程,从选题、LLM Wiki 参考检索到独立审稿和发布核验都有可借鉴的具体做法。

  36. GitHub · 灵魂体仓库70

    MoonBit 从零实现端侧 LLM 推理引擎 MoonLM,M0 至 M3 阶段完成

    soehi 发布 MoonLM,一个用 MoonBit 从零实现的端侧 LLM 推理引擎,同一份源码可编译到 native 与浏览器 js 后端,产物 669 KB / brotli 74.5 KB,推理零网络、零数据外传。已 GGUF 解析、Transformer 前向与采样(M0/M1)、Web Demo(M2)和带沙箱工具的 Agent 运行时(M3)完成;与 llama.cpp 逐位置对拍 288 位置 argmax 一致率 97.22%,浏览器端 SmolLM2-135M Q8_0 流式生成 6.3 tok/s,native 单线程 decode 18.4 tok/s(纯标量、无 SIMD,比 llama.cpp 单线程 57.2 tok/s 慢约 3.7 倍)。

    推荐理由:从零实现的端侧推理引擎,对拍数据、性能数字与零网络验证都给了实测细节,可迁移到自建本地推理项目。

  37. GitHub · 灵魂体仓库51

    The Pipeline Framework 发布 Java 强类型应用流框架,将模型决策与确定性业务逻辑组合在同一模型中

    The Pipeline Framework(TPF)是一个 Java 框架,用于构建强类型应用流,把模型决策、授权 SaaS 能力、确定性业务逻辑和长时工作组合在一个应用模型中,自动生成传输、持久化、重试、replay、遥测和部署等命令式外壳。框架将每次模型推理建模为带 schema 校验的普通 Query,模型不会获得环境连接器、凭据或效果权限;Agent 循环由普通 Pipeline 组合实现,支持 MCP、GraphQL、OpenAPI 三类连接器,生产运行时基于 Quarkus,Spring 支持尚未达到生产对等。

  38. GitHub · 灵魂体仓库34

    Lulu Vela 结构化白板发布:一种与 AI 可视化协作的新方式

    Lulu Vela 推出结构化白板,用统一文本协议实现 AI 智能体与用户在画布上的双向同步协作:智能体写文本,Lulu Vela 绘制图表,双方保持一致。用户通过聊天入口 /board 即可从提示词生成 Mermaid 流程图并直接在画布或 Source 中编辑,已登录用户可通过 Share 分享云端图表,支持在 Cursor 和 Claude Code 中配置 hosted MCP 实现账号级云端图表创建与更新,项目采用 MIT 许可证开源。