跳到正文
10月7日周三
  1. GitHub · 去对齐工具与仓库53

    pritmon 开源 concierge-ai-agent 端到端客服 Agent 项目

    GitHub 用户 pritmon 开源了 concierge-ai-agent,一个对标 Decagon 和 Intercom Fin 的端到端客服 AI Agent。默认使用 Claude Opus 5.5,通过 search_knowledge_base、lookup_order、cancel_order、issue_refund、escalate_to_human 等工具处理咨询,护栏在代码层强制执行:登录用户只能查自己的订单,退款超 100 美元自动审批上限需转人工。项目包含可嵌入聊天组件、仪表盘内可编辑的流程手册、人工接管收件箱、CSAT 与知识缺口分析,基于 Node.js 24+ 和 SQLite 运行,架构说明见 docs/ARCHITECTURE.md。

  2. GitHub · 灵魂体仓库47

    Pips:面向 Go 开发者的终端 AI 编程 Agent 与原生 Go AI 开发引擎

    开源项目 Pips 为 Go 开发者提供 AI 开发工具包,包含键盘驱动的终端编程 CLI 和纯 Go 的 AI 核心库(ai/agent/workflow)。它内置 Plan Mode 隔离式方案审批、OS 级沙箱(macOS Seatbelt、Linux Bubblewrap)与操作确认机制,并通过原生 HTTP/SSE 适配器直连 OpenAI、Anthropic 和 Gemini 接口,无需第三方 SDK。项目当前处于 v0 阶段(安装版本 v0.1.5),API 仍在快速演进,生产使用需固定依赖版本,构建需 Go 1.26.6 或更高。

  3. GitHub · 灵魂体仓库72

    sous 发布:让 Claude Code 的 subagent 在 Mac 本地 MLX 模型上运行

    sous 是一个面向 Apple silicon Mac 的本地守护进程,介于 Claude Code 和 Anthropic 之间:主循环请求原样转发到 Anthropic 走用户自己的 Pro/Max 登录,subagent 请求则由本地 MLX 模型(默认 mlx-community/Qwen3.8-27B-4bit,约 16 GB 下载,需约 18 GB 空闲统一内存)应答,不再消耗订阅额度。跨会话的提示缓存分叉让新会话首次本地回合从 170 秒降到 16 秒,守护进程重启后为 15.7 秒;默认模型在 M5 Pro 上解码约 31 tok/s(2K 上下文)、25 tok/s(57K),一次只服务一个 subagent,且 Anthropic 官方不支持这种网关路由方式。

    推荐理由:项目把子代理请求转到本地 MLX 模型并保留主循环在 Anthropic,给出了跨会话缓存分叉的前后耗时实测数据。

  4. GitHub · 去对齐工具与仓库65

    saibaba/camel-from-scratch:从零实现 CaMeL 防提示词注入设计的分步教程

    作者开源了 CaMeL(Debenedetti et al., 2025,Defeating Prompt Injections by Design)的从零实现,用 Bun + TypeScript 和 AWS Bedrock 上的 Claude 编写,仓库包含完整 run guide 和 TUTORIAL.md。项目按 step0 到 step6 及 e1/e2 分步演示:从朴素工具调用循环被 subtle 攻击泄露,到解释器、Dual-LLM、能力标注逐层加固,最终 STRICT 模式下安全策略阻断攻击,另含侧信道、银行转账完整性策略和标签跨会话存活等扩展示例;离线脚本确定性免费,在线脚本调用真实 LLM。

    推荐理由:作者从零实现了 CaMeL 防提示词注入设计,每步都给出可复现的运行脚本和攻击前后对照,便于读者理解隔离与策略如何逐步生效。

  5. Reddit · r/LocalLLaMA55

    Gemma 3 27B 与 Qwen3 32B 金融分析实测:小模型可靠性明显低于前沿模型

    作者用 Bedrock API 对 Gemma 3 27B、Qwen3 32B 与 Opus 5、GPT-5.6 Sol 做金融判断实验,发现小模型一致性明显更差:排序与打分给出相同次序的比例 Opus 为 75%、GPT 为 65%,Gemma 仅 25%、Qwen 仅 15%;调换公司列表顺序会改变 Qwen 10 组中 6 组的榜首。附看空分析师报告使 Qwen 81%、Gemma 71% 的评级下调,而要求模型先识别观点再独立推理可让 Gemma 85%、Qwen 68% 的案例恢复原评级;用 10-Q 摘要替代全文时前沿模型 84% 案例评级不变。作者补充测试了 Gemma 4 31B,各项略好于 Gemma 3 但问题依旧。

  6. GitHub · 灵魂体仓库33

    Hormuz 1.7 发布:面向 Codex 和 Claude Code 的自托管 AI 用量与凭证治理网关

    开源项目 Hormuz 发布 v1.7,这是一个 CLI 优先的自托管网关,为 Codex 和 Claude Code 提供组织级 AI 政策、用量归因、密钥外泄防护和仅元数据的证据记录,凭证保留在服务端,提示词与响应不被写入用量数据库。1.7 保留 1.0 的稳定 CLI 与政策/证据契约,集成 Rust relay 的 Mac 启动路径并修复一次性优化器设置,支持 Aider 与 adapter SDK;Windows 仍为未签名预览,公证的 Mac 下载版本仍为 v1.3.0。

  7. GitHub · 灵魂体仓库63

    moni_token 开源:读取 Claude Code 本地日志定位用量激增原因

    作者发布开源工具 moni_token,通过读取 Claude Code 本地日志定位限额用量激增的会话与成因(如长对话多次调用工具、闲置后恢复会话、并行会话等),并给出可节省的用量估算。工具不调用任何 LLM、无网络访问、只读日志且不存储对话文本,仪表盘为单个静态 HTML 文件(界面当前为韩文),README 还与 ccusage、Claude Code Usage Monitor、ccflare 做了功能对比。

    推荐理由:原文详细给出了基于规则定位 Claude Code 用量激增成因的可复现方法,并与 ccusage 等既有工具做了明确分工对比。

  8. GitHub · 去对齐工具与仓库63

    effort-router 插件为 Claude Code 自动分配 effort 级别,用量最多省一半

    tommy5dollar 发布 Claude Code 插件 effort-router,为每个 prompt 和 subagent 自动选择 effort 级别,让简单任务降级运行,作者称用量最多延长一倍、回答最快快 3.5 倍。前五个 prompt 会被检测并固定到合适级别,支持用 markdown 添加路由规则,/er report 可查看各级别工作量。作者自测中 Fable 5.1 从 xhigh 降到 medium 后,三个小任务约 2 分钟、$1.10-$1.65 完成,而留在 xhigh 需 6-8.5 分钟、$3.20-$3.75;路由本身每会话约花 $0.20。兼容 Fable 5.1、Opus 5.5 和 Sonnet 5.5,支持 Desktop 应用和终端安装。

    推荐理由:作者给出自测数据,包括 xhigh 降到 medium 后 2 分钟对 8.5 分钟、$1.10 对 $3.75 的成本时间对比,可据此评估是否值得装。

  9. GitHub · 灵魂体仓库54

    Tutor 开源:用本地 LLM 把自己的书变成课程的个人导师

    demetrius-edelin 在 GitHub 发布 Tutor v0.1.0,一个运行在本地的个人导师工具:为某学科添加 EPUB 或带标签的 PDF 书籍后,它用 Anthropic、OpenAI 或 OpenRouter 的 LLM 提取概念、生成概念图,逐个教学、出题并记录掌握状态。需要 Node.js 22 和 API key,通过 npm run ingest 添加书籍、npm start 在浏览器学习;作者称测试中 OpenAI 的 GPT-6 Luna 在 reasoning high 下效果最好且最便宜。项目用 TypeScript、Fastify、React 19 和 SQLite 构建,代码由 Claude Code 编写,MIT 许可。

  10. GitHub · 去对齐工具与仓库40

    AML Copilot:面向反洗钱分析师的合规优先智能体分诊工具

    GitHub 开源项目 AML Copilot 用 Claude Sonnet 4.6(经 AWS Bedrock,Anthropic API 兜底)自动预审反洗钱告警:先用 Microsoft Presidio 脱敏 PII,再通过 pgvector 检索监管条文、相似历史案例和实体交易历史,生成经 Pydantic 校验的结构化分诊简报,并以 SHA-256 哈希链记录全程审计日志。分析师可将约 45 分钟的人工调查缩短到约 3 分钟复核,LLM 全程不接触原始 PII。

  11. GitHub · 灵魂体仓库37

    arda:基于 LangGraph 与 Claude 的多智能体 Agent 项目(SolomonSmith-dev/arda)

    arda 是一个以 LangGraph 编排的多智能体系统,由 Claude Opus 5 驱动的 Sauron 编排器通过 tool_use 将请求分发给 shell 执行器 Earendil、RAG 检索器 Finrod(LlamaIndex + claude-haiku-4-5)和影迷会机器人 Tom Bombadil,统一暴露在 FastAPI API 与一个 MCP server 之后。mock 评测显示路由准确率 75.9%(n=54)、prompt 注入拦截率 25.0%(n=16)、recall@5 81.6%、MRR@10 0.725、路由延迟 p50/p95 2.31/2.57 ms,live 评测尚未运行。

  12. GitHub · 去对齐工具与仓库63

    开源工具 Botloft:在本地电脑上运行一组协作的 Claude Code 机器人

    开源项目 Botloft(https://github.com/httpsphl/botloft)可在自己电脑上保持一组 Claude Code 机器人常驻协作,每个机器人有独立文件夹、记忆和对话,可互相传递任务并在关闭窗口或重启后继续工作。架构上由 Tauri + React 应用通过 WebSocket 连接本地 Rust 守护进程 botloftd,每个机器人是一个真实的 claude -p 会话,消息先写入 SQLite 再投递,守护进程只监听 127.0.0.1,无云服务和遥测。支持 Windows、Linux 和 macOS(Apple Silicon)预览版,免费使用,机器人消耗用户自己的 Claude 订阅额度,按 FSL-1.1-ALv2 许可开源。

    推荐理由:这份 README 讲清了多 Claude Code 机器人协作的架构与权限设计,读者可借此了解本地后台运行与机器人间任务交接的实现方式。

  13. GitHub · 灵魂体仓库54

    QLoRA 微调 Qwen3-4B 替代工单分诊中的 Claude 调用实测

    作者微调 Qwen3-4B-Instruct-2507(QLoRA)处理德/英太阳能与热泵支持工单并输出校验 JSON,在 25 张真实工单上 CORE 准确率 0.76 对 Claude Sonnet 4.6 生产调用的 0.72,schema 有效率 100%,每千张工单成本 $0.29 对 $5.11,T4 上延迟慢约 1.4 倍。训练用约 3,500 张 Claude Haiku 4.5 生成的合成工单(约 $1.40),Unsloth + TRL 在免费 Colab T4 上跑 2 个 epoch,合并 fp16 后用 vLLM 部署;盈亏平衡点约每月 48,000-50,000 张工单,未调优的 Qwen 准确率仅 0.28 schema 失败率 28%。

  14. GitHub · 去对齐工具与仓库29

    Mandarin Playgroup:连接 140+ 湾区家庭的中文游戏社区平台

    Leeyen Rogers 从 0 到 1 打造 Mandarin Playgroup,一个连接 140+ 湾区家庭、让孩子在游戏中自然使用中文的社区平台。平台聚合 70+ 场来自 10+ 来源的家庭活动,每天自动刷新两次;Ask the Calendar 助手基于 Claude Haiku 通过 forced tool-calling 从日历数据回答查询,并由 LLM 驱动的 agent 自动完成活动的发现、评估、验证与发布。

10月6日周二
  1. Reddit · r/LocalLLaMA70

    9 条可放进 AGENTS.md 的思考纪律规则实测:664 次运行最多减少 29% 思考量

    Reddit 用户 /u/PilgrimofHaqq2 发布 9 条可加入 AGENTS.md、CLAUDE.md 或系统提示词的思考纪律规则,在 4 个模型上共 664 次运行测试,任务零损失,最多减少 29% 思考量。

    推荐理由:作者用 664 次运行和盲测脚本验证 9 条规则,给出各模型思考量变化和被无证据要求回退时的表现差异,方法可复用。

  2. GitHub · 灵魂体仓库62

    promptmend 发布:基于 Espanso 的提示词改写工具

    作者在 GitHub 发布 promptmend(0.19.0,原名 espanso-prompt-rewriter),输入触发词 -i- 或 -ip- 即可把剪贴板里的草稿改写成 CONTEXT/GOAL/INSTRUCTIONS 等分段的结构化提示词。工具支持 OpenRouter、Anthropic、Ollama 和 LM Studio 四种后端,-i- 约 2 秒返回,-ip- 走推理模型约 6 秒;云调用前会用正则门禁拦截支付卡号、API 密钥、密码等敏感内容,PROMPT_LOCAL_ONLY=true 可禁止一切云端调用,并支持通过 PROMPT_PERSONA 设置人格句。

    推荐理由:作者详细说明了触发词、数据保护门禁和四个模型后端的工作方式,读者可以直接复用这套草稿改写为结构化提示词的流程。

  3. arXiv · cs.AI55

    TasteVal 基准发布:衡量 AI 系统相对人类专家的实验研究品味

    arXiv 论文提出 TasteVal 基准,用于评估前沿模型挑选问题、设计实验和解读结果的实验研究品味,并将其操作化为算力效率。基准含 8 个开放式任务,由被测模型担任 Researcher、固定 Coder agent 负责实现,预算为 40 H100 小时或 120 小时墙钟时间,另招募 24 名人类专家、每任务至少 2 人,取每人任务最佳成绩为基线。

    推荐理由:论文把实验研究品味量化为算力效率,并给出模型与 24 名人类专家的对照数据,可用于理解 AI 研究能力的度量方式。

  4. GitHub · 灵魂体仓库44

    PlainJane20/jev-agent-router:Jev、Claude Haiku 与关键词路由的准确率与延迟实测

    该仓库用同一标注数据集对比三种客服消息路由方案:关键词基线、Claude Haiku 与 TypeSafe 的 Jev 决策模型。在 111 条难消息上(3 次运行),Jev 准确率 98%、中位延迟 116 ms,Claude Haiku 99%、607 ms,关键词仅 42%;两者准确率接近,Jev 约快 5 倍。成本未测量,结果基于单机顺序调用。

  5. GitHub · 去对齐工具与仓库63

    multimodal-deep-dive:从零上手多模态 LLM 的实战教学仓库

    alexvervloet 发布 multimodal-deep-dive 仓库,通过 11 个分节示例从零讲解多模态 LLM 的实际工作方式,涵盖图像输入的 content-block 结构、截图转结构化 JSON、多图对比、语音转文字与文字转语音、图像生成、多模态 RAG 和原生 PDF 输入。

    推荐理由:仓库用可运行的分节示例拆解多模态请求的 content-block 结构与图像 token 成本,并给出 OpenAI 与 Claude 的能力差异对照。

  6. Reddit · r/LocalLLaMA48

    Anthropic 人工审查团队将用户的 Claude“日记”上报执法部门,Reddit 热议托管 AI 隐私风险

    Anthropic 将一名佛罗里达州女性用户与 Claude 的“日记”内容上报执法部门,此次转介并非模型自动触发,而是来自人工审查团队。Reddit r/LocalLLaMA 用户借此提醒:使用托管前沿模型时输入内容可能被公司查看,无论科研还是私人倾诉都无隐私可言,托管 AI 正成为新的“老大哥”通道。

10月5日周一
9月10日周四
  1. Anthropic · 威胁情报77

    Anthropic 威胁情报报告:2025 年 12 月至 2026 年 8 月期间 Claude 遭滥用事件与处置

    Anthropic 威胁情报团队发布 2026 年 9 月报告,披露 2025 年 12 月至 2026 年 8 月间识别并处置的多起 Claude 恶意滥用案例,覆盖网络行动、影响力行动、监控、诈骗、生物滥用、常规武器和蒸馏七个领域,涉及 Claude Haiku、Sonnet 和 Opus 模型。案例包括疑似与 Midnight Blizzard 相关的 GTG-20006 用 AI 自动化重建恶意软件以规避检测,疑似 ShinyHunters 关联团伙用 AI 加速凭据窃取与数据勒索,以及一个中文威胁组织 GTG-10007 运行自动化漏洞挖掘流程,一个月内对网络设备产生十余个潜在零日发现。

    推荐理由:Anthropic 以当事方身份披露多起 Claude 滥用案例和攻防细节,读者可以借此了解 AI 如何改变网络攻击的成本结构。

8月27日周四
  1. Embrace The Red · AI 攻防研究74

    实测攻破 Claude Code Opus 5 Auto Mode,攻击成功率最高达 80%

    Embrace The Red 博主实测通过一次网站摘要请求劫持 Claude Code Opus 5 的 Auto Mode,实现代码执行,小样本下攻击成功率为 60-80%。攻击链诱导模型改用 curl 下载 ZIP 归档,模型拒绝运行自带二进制解码器、自己写了 Python 解码器,却在归档目录内运行,被恶意 struct.py 通过模块遮蔽触发任意代码执行并建立 C2 回连。Anthropic 委托 Trajectory Labs 的评测曾显示 Auto Mode 下 Opus 5 提示词注入成功率为 0.00%,但对攻击者报告以 Informative 关闭,称 Auto Mode 是尽力而为的分类器而非安全保证。

    推荐理由:作者以第一手实测展示了针对性攻击链如何绕过 Auto Mode,并对比了厂商 0.00% 基准数字的局限,附完整缓解建议。

8月25日周二
  1. Ollama Blog63

    Ollama 支持 Claude Desktop 接入本地与云端模型

    Ollama 宣布支持将 Claude Desktop 配置为经 Ollama 的第三方网关。在 Ollama 中开启 Claude 即可自动配置,可选用 Ollama 内本地或云端模型,关闭后恢复原设置;默认关闭遥测并执行零数据保留政策,也可在设置中配置本地模型。

    推荐理由:官方说明了 Claude Desktop 接入 Ollama 的配置步骤、数据保留政策和本地模型用法,便于按需切换云端与本地模型。

6月3日周三
  1. Anthropic · 威胁情报56

    Anthropic 将一年内 832 个 AI 恶意账号映射到 MITRE ATT&CK,发现框架未覆盖智能体式攻击行为

    Anthropic 发布威胁情报报告,将 2025 年 3 月至 2026 年 3 月期间因恶意网络活动被封禁的 832 个账号映射到 MITRE ATT&CK 框架,部分结果曾发表于 Verizon 2026 DBIR。报告发现 67.3% 的账号用 AI 编写恶意软件,6.5% 用于横向移动;被评为中风险及以上的攻击者占比从上半年 33% 升至下半年 56%,AI 使用正从初始入侵转向入侵后阶段。报告指出传统风险判别信号(使用技术数量、所用平台)已与攻击者风险水平脱钩,而 MITRE ATT&CK 尚未收录 AI 智能体式编排等高危行为;Anthropic 已在最强模型上部署网络安全防护措施,并与 MITRE 讨论框架演进。

    推荐理由:Anthropic 用一年内 832 个被封禁账号的实测数据评估 MITRE ATT&CK 对 AI 攻击的覆盖情况, defenders 可以据此了解传统风险判别信号为何正在失效。

2月23日周一
  1. Anthropic · 威胁情报74

    Anthropic 披露 DeepSeek、Moonshot、MiniMax 涉嫌蒸馏攻击提取 Claude 能力

    Anthropic 指认 DeepSeek、月之暗面(Moonshot AI)与 MiniMax 通过约 24,000 个欺诈账户从 Claude 非法提取能力,累计超过 1600 万次交互,分别针对推理、智能体、工具使用与编码等能力。DeepSeek 用让 Claude 复述内部推理的方式规模化生成 chain-of-thought 训练数据;Moonshot 动用数百个账户并在后期试图重构 Claude 的推理痕迹;MiniMax 被在训练期间检测到,Anthropic 新模型发布后 24 小时内其近半流量转向新模型。Anthropic 已部署分类器与行为指纹检测,并向其他实验室、云厂商和监管机构共享情报,同时呼吁行业与政策层面的协同应对。

    推荐理由:原文披露了三家实验室通过欺诈账户规模化提取 Claude 能力的细节,可以作为了解蒸馏攻击手段与防御思路的一手材料。

11月13日周四
  1. Anthropic · 威胁情报71

    Anthropic 披露首例 AI 智能体主导的大规模网络间谍攻击,约 30 个目标被入侵

    Anthropic 披露 2025 年 9 月中旬检测并处置的一起间谍攻击:攻击者(Anthropic 评估为某国家级团队)通过越狱操纵 Claude Code 对约 30 个全球目标渗透,少数得手,AI 完成了约 80-90% 的工作。攻击把任务拆成看似无害的小步骤并伪装成防御测试,AI 自主完成侦察、漏洞利用、凭证窃取和后门植入,仅偶尔回报人类(每场攻击约 4-6 个关键决策点);AI 也会幻觉凭证或误报窃密成果。Anthropic 已封禁相关账号、通知受影响方并配合当局,并称这是首例有记录的、无大量人工干预的大规模网络攻击。

    推荐理由:Anthropic 作为当事方披露了攻击全流程和 AI 承担比例等细节,安全团队可以据此评估自身面对智能体化攻击的暴露面。