跳到正文
10月24日周六
  1. GitHub · 去对齐工具与仓库31

    OWASP LLM 安全验证标准(LLMSVS)项目仓库介绍

    OWASP 大语言模型安全验证标准(LLMSVS)旨在为基于 AI 和 LLM 的系统提供开放安全标准,覆盖架构、模型生命周期、训练、运维与集成、存储与监控等方面。标准面向开发、攻防与安全团队,用于指导安全实践、审计与渗透测试并建立安全基准。仓库提供 v1.0 与 v2.0 英文 Markdown 版本,内容采用 CC BY-SA 4.0 许可证。

  2. GitHub · 去对齐工具与仓库55

    awesome-free-ai-coding 仓库汇总免费 AI 编程智能体与 LLM API

    GitHub 仓库 mvalentsev/awesome-free-ai-coding 汇总了可零成本使用的 AI 编程资源,含 9 个编程智能体、32 个带免费额度的 LLM API、29 项试用和 16 个聚合网关,其中绝大多数无需绑卡。清单每周两次用自动探测核对每一行,探测锚定模型 ID、配额数字或厂商页面原句而非 free 字样,连续 3 次失败或 60 天未通过即移入归档并记录原因,已归档 21 条。仓库还提供 opencode、LiteLLM、Claude Code 和 Codex CLI 的现成配置文件,以及 llms.txt、index.json 和 Atom feed 供程序化消费。

  3. GitHub · 去对齐工具与仓库18

    eslam-aboutaleb 开源 llm-gateway:基于 OCI 免费层的 LiteLLM 代理网关

    eslam-aboutaleb 在 GitHub 发布 llm-gateway,在 OCI Always Free ARM64 实例(2 OCPU、12 GB RAM)上运行管理员托管的 LiteLLM Proxy,对外提供 OpenAI 兼容的 HTTPS API,集中管理上游模型凭据并按虚拟 key 强制团队访问与支出限额。架构采用 Caddy 做 TLS 入口、PostgreSQL 存储密钥与用量、Redis 做计数与缓存,备份经 Age 加密写入 OCI Object Storage,并支持 LangChain、LlamaIndex、CrewAI 等框架接入。

  4. GitHub · 灵魂体仓库18

    Smarandii/cautious-crypto-bro:Telegram 信号驱动的 Bybit Demo 加密货币交易机器人

    开源项目 cautious-crypto-bro 将 Telegram 频道的文字、图片和相册经 LLM 解读后,由确定性代码生成 Strategy V2 交易计划,经人工批准或 AUTO 路由到 Bybit Demo 执行,仅支持 Demo 交易,真实资金主网支持计划在性能评估后作为显式 opt-in 开放。系统通过 Docker Compose 部署,使用 SQLite 状态锁防止多实例写入,每轮轮询最多重试 100 条失败帖文,支持 QR 重新授权 Telegram 会话。

  5. GitHub · 灵魂体仓库21

    Nuabase 开源 nua-llm:类型安全的 LLM 结构化数据提取平台

    Nuabase 在 GitHub 公开其 pnpm workspace 平台仓库,提供类型安全的 LLM 转换与结构化数据提取。仓库包含多个包:nua-client 是可在本地进程、LLM 提供商或本地编码智能体上运行 casts 的 TypeScript SDK(以 nuabase 名称发布到 npm),nua-llm-core 是基于 LLM 的结构化数据提取核心库,源码构建与测试见 DEVELOPMENT.md。

  6. GitHub · 灵魂体仓库68

    uibcdf 开源 pytest-receptor:为 coding agent 压缩 pytest 输出

    uibcdf 发布开源工具 pytest-receptor,一个 pytest 插件,当测试由 Claude Code、Codex 或自主 TDD 循环驱动时,输出面向 agent 的紧凑报告,按根因分组重复失败并给出重跑命令。实测 38 个失败共享一个根因的级联场景从 3283 token 降到 105,8000 测试全绿的 12 worker xdist 运行从 812 降到 17;默认 human 模式为真透传,支持 llm/ci 两种模式和 --receptor-stats 实测节省,MIT 协议,可通过 conda 或 pip 安装。

    推荐理由:给出按失败场景实测的 token 消耗对比数据,读者可以据此判断这类为 coding agent 压缩测试输出的工具能省多少。

  7. GitHub · 灵魂体仓库66

    Castor 开源:通过 MCP 把 Claude、Gemini 等云端编排器搭配 Ollama、vLLM 本地模型执行

    ApatheticMioz 发布 Castor,一个 Rust 编写的 MCP 服务器,通过 npx 一条命令注册到 Claude Code、Claude Desktop、Antigravity IDE 等客户端,把 AST 改写、文件操作和测试循环交给本地模型(Ollama、vLLM、LM Studio 等 OpenAI 兼容端点)执行,省去云端 token 开销。

    推荐理由:原文给出完整的架构说明、安装命令和 5 层沙箱设计,读者可以直接照着把云端编排和本地执行模型跑起来。

  8. GitHub · 灵魂体仓库18

    kantarcise/learning-llms:基于 Sebastian Raschka《Build a Large Language Model (From Scratch)》的大语言模型学习仓库

    GitHub 仓库 kantarcise/learning-llms 记录作者跟随 Sebastian Raschka 的《Build a Large Language Model (From Scratch)》学习大语言模型的过程,并延伸到推理工程。计划每周 6 小时、持续六个月,主要内容是逐章阅读笔记配套站点 learningllms.kantarcise.com,用 Material for MkDocs 构建,通过 Cloudflare Pages 发布。环境使用 uv 管理依赖、Ruff 做代码检查,前期张量练习在 CPU 上即可运行。

  9. GitHub · 灵魂体仓库51

    开源工具 quiver 发布:一条命令统一管理本机所有 AI 编码 CLI

    GitHub 项目 quiver(命令名 swe)发布,用一个入口统一管理 Claude Code、Codex、Gemini CLI、Cursor CLI、opencode 等本机 AI 编码 CLI,支持按名称或别名启动、跨工具统一浏览并恢复会话。它只读解析各工具自身日志做用量分析,可发现和迁移 Agent skills、在各工具间同步 MCP server 配置,能识别 21 个 CLI、会话解析覆盖 15 个工具;需 Python 3.11+,核心 CLI 无第三方运行时依赖。

  10. GitHub · 灵魂体仓库15

    CultureBotAI 开源 MediaIngredientMech:LLM 辅助的培养基成分本体映射标注系统

    CultureBotAI 在 GitHub 发布 MediaIngredientMech(MIM),一套基于 LLM 辅助的培养基成分本体映射标注系统,提供完整审计追踪,并管理与 CultureMech 聚合数据关联的成分记录。系统采用 LinkML 模式和 ENVO 本体环境上下文,支持交互式 CLI 标注、LLM 使用追踪和 CHEBI/FOODON 术语映射验证。项目数据以 YAML 存储,采用 CC BY 4.0 和 BSD-3-Clause 双许可,文档中发布了 2026-09-21 快照的评审记录。

  11. GitHub · 灵魂体仓库24

    pursurer/ai-research-evaluator:基于 P-F-C 模型的 AI 研究方向自动评估系统(早期阶段)

    GitHub 项目 ai-research-evaluator 旨在基于 P-F-C 框架(潜力 35%、可行性 40%、竞争 25%)自动评估 AI 研究方向,输出 7 项指标评分、综合 ROI 分数、4 级决策建议及 6-12 个月趋势预测。目前处于早期阶段,仅实现 9 个顶会论文数据层(src/data,含测试),评估引擎、LLM 层、报告生成及 discover.py、batch_evaluate.py 均未实现。

  12. GitHub · 灵魂体仓库28

    Trading-Crew-app 开源:50 个确定性智能体组成的纸面交易回放系统

    GitHub 开源项目 Trading Crew 是一个 Python/FastAPI 纸面交易研究框架,由 50 个确定性智能体完成数据质检、特征工程、市场状态识别、风控与模拟成交,并提供 19 页仪表盘和只追加账本。系统可只读接入 Binance 公开行情,但不下真实订单,LLM 仅能生成建议文本、测试证明无法触及订单与风控模块。内置示例策略在合成数据上扣费后亏损,项目明确不构成盈利主张或投资建议。

  13. GitHub · 灵魂体仓库30

    GBT小土豆V8-Commander:把"指挥"练进权重的 7.6B 中文总指挥模型

    GBTxiaotudouV8-Commander 是一个 7.6B 中文「总指挥」模型,可将请求路由到 341 位能力(30 域),写盘/花钱/出网等动作需人工发票授权。其 335 题基准两轮 PASS 率 99.10%/98.51%,341 位逐位真跑 340 通过/0 失败。项目提供零依赖的 `python demo.py` 演示、含 40 骨 GLB 与 2 万触手 3D 预览的硬件资产,以及可审计的单门 runtime 和 PWA 手机版。

  14. GitHub · 灵魂体仓库10

    at_tracker:美国大陆航空交通实时地图项目(本地 LLM 驱动)

    GitHub 项目 at_tracker 开发美国大陆航空交通实时地图,配备焦点面板和由本地 LLM 驱动的聊天窗格,目前处于 P0 里程碑(环境与数据源验证)阶段。项目采用 Flask 服务 D3 地图,当前使用模拟机队;数据仅存储民航航班,私人、公务和军机在写入前被过滤,飞机测试数据均为合成数据,未提交任何 OpenSky 录制数据。

  15. GitHub · 灵魂体仓库21

    Academic Rubric Optimizer:基于 DoK 框架的学业评分标准优化智能体指令集

    GitHub 上开源的 Academic Rubric Optimizer(ARO)是一套智能体指令集,可将非结构化作业评分标准转化为结构化的逆向映射学业执行计划。它基于 Webb 的 Depth of Knowledge(DoK)框架,在 DoK 1–2 层级协助结构规划与来源筛选,同时严格保留 DoK 3–4 的综合分析与原创评估给学生本人,以维护学术诚信与学习者思维自主。

  16. GitHub · 灵魂体仓库52

    PetPal 0.9.11 发布:二次元AI伙伴集成真实 Codex CLI 的个人服务

    lixinyu02/petpal 发布 0.9.11 正式版,这是一款可聊天、陪伴并使用真实 Codex CLI 的个人伙伴应用,支持 Web、Windows、Ubuntu 和 Android 四端共用 React 界面。0.9.11 优化页面加载与语音状态复用,移除废弃的 3D 小猫只保留原创 Cubism V12 二次元伙伴,桌面包内置 Codex 0.143.0 和 OpenCLI 1.8.8,Agent 任务可在同账号的执行电脑或中央服务器上运行,提供 CosyVoice 朗读、语音插话打断和对话归档等项目分类功能;Windows 包实际启动与手势烟测通过,Ubuntu 与 Android 本轮未做目标设备运行验收。

  17. GitHub · 灵魂体仓库33

    BackedCV:用 Claude Haiku 5.5 判断职位值不值得投、并安全优化简历的开源工具

    开发者在 Grevix AfterCode 24 小时黑客松上独立完成 BackedCV,这是一个基于 FastAPI 和 React 的 Web 应用,赛事期间调用 OpenAI 模型,赛后已迁移到通过 Anthropic API 调用的 Claude Haiku 5.5。工具解析职位描述并逐条匹配简历证据,标记隐藏的筛除条件和过旧经历,给出 screened out / Apply 等判定,简历改写建议需经代码检查和独立模型调用验证,不支持的经历无法采纳。演示已上线 backedcv.onrender.com,可输出 DOCX 和 PDF。

  18. GitHub · 灵魂体仓库32

    Flisk CLI:一条命令自动编排本地开发栈,告别 AI 幻觉式基建配置

    开源项目 flisk-sh/flisk 推出 Flisk CLI Core,自动检测技术栈并根据 service.json 生成 Dockerfile、Traefik 路由和 Tiltfile,实现约 14 秒的零配置本地环境编排,支持 72 种集成层级(包括 Bun、Node、Python、Go、Rust 等运行时)。它无需本地 Kubernetes,由 Docker 和 Tilt 驱动,并提供 AI 智能体运行时支持:通过 flisk resource 一条命令搭建 agent、MCP 工具服务器和数据库,附带 checkpoint 卷、x-session-id 会话路由及 /health、/ready 健康检查。Core CLI 采用 MIT 协议且无需密钥,高级功能为可选付费。

  19. GitHub · 灵魂体仓库71

    DengSSHS 开源 qq-ai-bot:可住进 QQ 群的长期记忆 AI 角色机器人

    DengSSHS 在 GitHub 开源 qq-ai-bot,一个部署在 QQ 群里的 AI 角色机器人,被 @ 才说话,具备长期记忆、看图、联网搜索、生图和作息系统。项目纯 Python 标准库零第三方依赖,实测在 2 核 2G 腾讯云轻量服务器上运行,进程占用 607 MB,单轮回复 1~2 秒(优化前 5.6~9.3 秒)。通过 NapCat 接 QQ、OneBot v11 通信,模型走任意 OpenAI 兼容接口;部署方式是把仓库交给 AI 按 START-HERE.md 操作。作者同时说明了账号风控风险、约 ¥60~120/月服务器加 token 成本,以及业务逻辑无自动化测试覆盖等限制。

    推荐理由:作者给出实测内存、延迟、token 成本数字和已知限制,连被踢号经历都写了,可作为自部署群聊 AI 伴侣的参考实现。

  20. GitHub · 灵魂体仓库21

    cdcoonce/llm-preference-audit:审计 LLM 裁判是否复现 Chatbot Arena 人类偏好偏差

    一个进行中的 GitHub 项目审计 Chatbot Arena 人类偏好标签,测量长度偏差(更长的回答更容易胜出)和位置偏差,并检验 Claude Haiku 等零样本 LLM 裁判及 LightGBM、DeBERTa-v3 微调、Gemma / Qwen LoRA 等训练模型是否会复现或放大这些偏差。评估采用按 prompt hash 分组的锁定 10% 测试集加 5 折交叉验证,指标为 winner_model_a / winner_model_b / winner_tie 的多分类 log loss。

  21. GitHub · 灵魂体仓库34

    CodesbyFebin 开源 Open-WebLLM-inference-engine:浏览器、边缘与 GPU 通用推理基础设施

    CodesbyFebin 在 GitHub 发布 Open-WebLLM-inference-engine,提供基于 React/TypeScript WebGPU 推理控制台、FastAPI 网关与 vLLM 部署清单的开源推理基础设施,覆盖浏览器、边缘和 GPU 三类运行时。项目内置证据门控基准协议,结果记录在 SQLite(BENCHMARK_DB),24 小时过期,且只有最近三次覆盖简单、推理和代码提示的结果才允许自动服务器路由。WebLLM 适配器目前仍为规划中的独立组件,Transformers.js 浏览器推理已实现但设备验证尚未完成。

  22. GitHub · 灵魂体仓库23

    leoli-dev/llm-test-reports:LLM 实测报告仓库

    该仓库收录了一系列大模型本地与云端实测报告:最新一篇对比 Claude Opus 5.5(Claude Code)与 GPT 6.1 sol(Codex)在同一 WebGL 任务上的表现;其余测试集中在 Qwen3.8-27B 8-bit(MLX affine8 / MLTF q8c / GGUF Q8_0)上,覆盖 256K 上下文压力测试、128K vision 性能、MLTF 与 mlx-vlm 对比,以及 DeepSeek V4.1 Flash 的 AI Werewolf 十局游戏测试等场景。

  23. GitHub · 灵魂体仓库11

    GenAi_Practice:一个生成式 AI 学习实践仓库

    GitHub 用户 anaschouhan001 开源的 GenAi_Practice 仓库记录其用 Python 学习生成式 AI、LLM 与 AI 工程的实践过程。内容涵盖 Google Gemini API 集成、提示词工程、文本嵌入、文本分块、RAG 基础和本地 LLM 实验。涉及技术栈包括 Python、Google Gen AI SDK、Ollama 和 VS Code。

  24. Hugging Face · 新模型:abliterated51

    Occamy-1.0 APEX-I-NanoPlus-V2.1 Abliterated GGUF 无对齐版发布

    IsValorum 发布 Occamy-1.0 APEX-I-NanoPlus-V2.1 Abliterated GGUF 无对齐版,称通过正交激活转向消除拒绝向量,探针测试 0/10 拒绝。该量化版文件 12.54 GB、3.40 BPW,WikiText-2 困惑度 6.2432(较 BF16 基线 6.18 仅 +1.02%),支持 24GB 显存跑满 256K 上下文;社区实测在 RTX 4070 上以 98.8% 完成 Shortbench 11/12 任务,zephel01 在 SWE-bench 风格评测测得 90.0%–93.3% 解决率。

  25. 80 Level · CG 与游戏美术31

    Playgama Sandbox:为游戏原型到玩家之间打通更快的路径

    Playgama 推出 Sandbox 工作流,开发者可发布 HTML5 游戏、集成 Playgama Bridge SDK 并收集留存、游玩时长、新手引导完成率等分析数据,直接从 Playgama 网络获得自然流量。通过将 Playgama MCP server 添加到 Codex、Claude Code 或 Cursor,开发者能用自然语言让 AI 智能体完成上传、集成、读取统计和迭代更新,广告变现从首个会话即生效。创始人 Dmitry Kachmar 认为 HTML5 将成为智能体游戏开发的主实验室。

  26. Reddit · r/LocalLLaMA9

    Reddit 用户畅想用 vibe coding 打造整合 Queue 应用的 TVOS

    一位 Reddit r/LocalLLaMA 用户设想通过 vibe coding 开发一个 TVOS,将用户已订阅服务的内容原生汇总在一处,并支持自动播放预告片、静音等选项。该设想还希望整合其与妻子使用的 Queue 应用——用随机挑选的方式决定接下来看什么。作者称如今越狱任何设备可能只需一次请求或一份赏金。

  27. Reddit · r/LocalLLaMA58

    Reddit 用户取证量化模型推理链幻觉:海盗分金谜题、虚构注入与幽灵系统提示词

    Reddit 用户 /u/Consumerbot37427 报告其本地 Qwen3.8-Flash-Next MoE 的 Q4/Q8 混合量化版本在 Opencode 长任务中,推理链出现三类凭空编造内容:海盗分金谜题出现 7 次、虚构的 Windows/PyQt6 会话恢复注入在同一轮内被模型自导自演地防御 5 次、以及一段幽灵邮箱预批准系统提示词,而这些文本均不存在于实际输入中。作者用 SQLite 持久化历史做取证,提出判别方法:在全部历史中检索可疑文本的首次出现位置,若首现于助手输出即为模型虚构,若首现于工具或抓取内容才是真实注入;并给出一段可直接粘贴的排查提示词供其他用户检查自己的 opencode 历史。

    推荐理由:作者用持久化 SQLite 历史做取证,给出区分量化幻觉与真实注入的可复用判别方法,附完整排查提示词。

  28. Reddit · r/LocalLLaMA30

    Kimi K3.1 Pro 生成“鹈鹕骑自行车”高保真场景测试:3D 理解能力大幅进步但仍逊于 Opus 5.5

    用户用“生成鹈鹕骑自行车的高保真场景”提示词测试 Kimi K3.1 Pro,默认思考(max)模式下上下文占用约 160k tokens,经 Pi.dev harness 运行。结果优于发布时的 Opus 5.5,但与 Opus 5.5 和 astra 6 仍有明显差距,作者认为即将发布的开源权重模型在 3D 理解上进步巨大。

  29. Reddit · r/LocalLLaMA27

    新 GitHub 账号神秘现身 Qwen4.0-Max 痕迹

    Reddit r/LocalLLaMA 用户发现注册不到一个月的新 GitHub 账号提交了支持 Qwen4.0-Max prefill heads 的 PR,推测这些账号可能是阿里 OSS 的秘密账号。该 PR 标题为 feat(gdn): support Qwen4.0-Max prefill heads,相关身份尚未获官方证实。

  30. Reddit · r/LocalLLaMA63

    Nvidia 新解锁补丁实测:中国版 RTX 3080 20GB prefill 提速最高 28.6%

    Reddit 用户 /u/No-Refrigerator-1672 在 2x RTX 3080 20GB(PCIe 3.0 x16、240W 功耗限制)上实测 Zaggita 发布的 GPU 性能解锁补丁,该补丁修复 Nvidia 对消费卡 AI 相关硬件指令的算力限制。用 vLLM 0.32.0 跑 cyankiwi/Swift-1.5-Qwen3.8-27B-AWQ-INT4(fp8 KV cache、MTP 开启)测试,prefill 吞吐提升 20.8% 到 28.6%(提示越长提升越大),TTFT 下降 17.2% 到 22.3%,decode 步速基本不变;MTP 实际接受率约 2,实际生成速度约 45 tok/s。

    推荐理由:作者在双 RTX 3080 20GB 上实测 Zaggita 的解锁补丁,给出了从 8k 到 262k 提示长度的 prefill 提速数据和解码不变的结论。