跳到正文
  1. GitHub · 灵魂体仓库64

    Grillcheese-AI 开源 CubbyLLM 架构并发布自研 450M 模型 base450m

    Grillcheese-AI 开源 CubbyLLM,一个八层架构项目,语言模型被刻意做成最小、可替换的一层,每句回答都是 VM 针对事实库执行的程序或带理由的拒绝,用构造而非判断保证诚实。项目同步发布自研 450M 混合模型 base450m(MinGRU + 窗口注意力,bbpe128k 分词器,约 4B token 预训练,经 Vulkan 运行于 grilly2),并给出算术步进(单次通过 5.5% 提升)、qFHRR n-gram 记忆、800 题验证管线 0.718 覆盖且精度 1.000、SimpleQA 与百科 OCR 等大量实测数字,每个数字对应 validation/logs 中的日志。

    推荐理由:原文给出可复现的验证实验与指标,把语言模型降为可替换一层、由 VM 仲裁每个回答的架构做法有可迁移的参考价值。

  1. GitHub · 灵魂体仓库63

    som1ng/API-QuickCheck 开源,用签名回传验签检测中转站偷换模型

    som1ng 在 GitHub 开源 API-QuickCheck,通过 Claude thinking 块服务端签名回传验签、SSE 事件顺序等协议断言检测中转站是否偷换模型。工具支持批量测活(1~50 线程并发)、余额嗅探、24 项四层探针覆盖 9 个旗舰模型,提供 Web 端与 npx 免安装 CLI,Key 仅在本地内存处理,MIT 协议。

    推荐理由:原文给出了具体验签和协议断言机制,读者可以照此判断 API 中转站是否偷换模型,工具可 npx 免安装复用。

  1. GitHub · 灵魂体仓库67

    claude-risk-guardrails:为 Claude Code 发布 25 条模型风险管理护栏

    scaso01 在 GitHub 发布 claude-risk-guardrails,为 Claude Code 提供 25 条护栏,分成六个可独立安装的包,每条在会话内校验智能体的声明、对不可逆动作要求人工签核并留下可审查记录。项目将 SR 26-2(美联储、OCC 与 FDIC,2026 年 4 月 17 日)与 NIST AI RMF 1.0 及 NIST AI 600-1 的原则类比套用,明确声明不构成合规认证;签核通过一次性代码(如 approve G-4821)完成,默认有效期 15 分钟,且模型无法批准自己的动作。作者用 replay.py 统计各护栏的历史触发率来排序,live 运行发现并修复了六个单元测试漏掉的真实绕过,全部 25 条截图见 docs/CONTROLS.md,MIT 许可。

    推荐理由:项目借鉴银行模型风险管理框架为 Claude Code 设计 25 条护栏,并用真实会话演示与回归测试给出可用性证据。

  1. GitHub · 灵魂体仓库64

    cordon v0.3.0 发布:面向 OpenAI 与 Anthropic API 的 PII 脱敏代理

    askalf 发布 cordon v0.3.0,一个部署在客户端与 OpenAI / Anthropic API 之间的 PII 脱敏代理,在请求离开本地网络前将邮箱、电话、卡号、SSN、API key 等替换为占位符,并在回复中还原。

    推荐理由:原文给出了检测机制、三种脱敏模式、失败策略和审计链等实现细节,读者可以据此评估是否适合在自家 API 链路中部署。

  1. GitHub · 去对齐工具与仓库63

    nikhilcrypto0 开源 concierge:模型无权打款的客服 Agent 参考实现

    作者开源 concierge,一个基于 LangGraph 与 Claude 的客服 Agent,可回答帮助中心问题并处理退款,但退款金额由代码中的书面政策决定,须经人工审批后才会执行,且每笔审批记录审批人、时间与政策理由。

    推荐理由:作者开源了一个模型无权打款的客服 Agent,附完整评测数据与设计权衡,可作人机协作 Agent 工程的参考实现。

  2. GitHub · 灵魂体仓库67

    Derailment 开源工具:用分层诱导测量 LLM 的认知扭曲反应

    GitHub 项目 Derailment 发布,这是一个分层测试框架,通过操纵注意力、显著性、效价、唤醒等变量诱导 LLM 出现类似 ADHD、精神病、抑郁、焦虑等 18 种认知扭曲,并用统一探针脚本对诱导管线与健康基线做 A/B 评分。

    推荐理由:原文给出真实模型与离线模拟器的对照数据,显示多数认知扭曲诱导难以迁移到真实模型,仅少数效应成立。

  1. GitHub · 去对齐工具与仓库59

    RedOps 开源:LLM 评测、红队与安全测试一体化平台

    ANUBprad 在 GitHub 发布 RedOps,一个面向生产的 LLM 评测与安全平台,集成评测引擎、自适应红队攻击、基于轨迹的 Agent 评估、实验对比与可观测性。

    推荐理由:开源的 LLM 评测与红队平台,把评测引擎、自适应攻击、Agent 轨迹评估和 Temporal 持久化执行整合在一套可自部署的架构里。

已经到底了