跳到正文
我的
热点事件持续更新

honeybeepf-llm:eBPF 无侵入采集 K8s 中 LLM token 与延迟指标

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

honeybee-studio 在 GitHub 上介绍了开源工具 honeybeepf-llm:一个 Rust 编写的 eBPF agent,以 DaemonSet 方式在 Kubernetes 集群中运行,通过 uprobe 挂接 OpenSSL 的 SSL_write/SSL_read 读取明文 HTTP 请求,无需改代码、无代理、无 SDK,即可按 namespace 和 pod 导出 LLM token 用量、请求数和延迟,经 OpenTelemetry 输出。 仓库说明中列出了使用限制:agent 需要 hostPID 及 BPF、PERFMON、SYS_ADMIN、SYS_PTRACE 权限,每节点请求 200m CPU / 512Mi(上限 1 CPU / 1Gi);只能看到经由 OpenSSL 发出的 HTTPS 调用,明文 HTTP 端点(如集群内典型的 Ollama 或 vLLM)不在监控范围;此外 Node.js 26 默认协商 HTTP/2,其内置 fetch 及官方 OpenAI、Anthropic Node SDK 的调用目前也无法记录。

AI 根据报道生成 · 44 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月5日
  1. GitHub · 灵魂体仓库精选
    honeybeepf-llm:用 eBPF 无侵入采集 Kubernetes 中 LLM token 与延迟指标

    honeybeepf-llm 是一个 Rust eBPF agent,以 DaemonSet 运行,通过 uprobe 挂接 OpenSSL 的 SSL_write/SSL_read,读取明文 HTTP 请求,无需改代码、无代理、无 SDK 即可按 Kubernetes namespace 和 pod 导出 LLM token 用量、请求数和延迟,经 OpenTelemetry 输出。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。