honeybeepf-llm:eBPF 无侵入采集 K8s 中 LLM token 与延迟指标
热点事件持续更新
honeybeepf-llm:eBPF 无侵入采集 K8s 中 LLM token 与延迟指标
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
honeybee-studio 在 GitHub 上介绍了开源工具 honeybeepf-llm:一个 Rust 编写的 eBPF agent,以 DaemonSet 方式在 Kubernetes 集群中运行,通过 uprobe 挂接 OpenSSL 的 SSL_write/SSL_read 读取明文 HTTP 请求,无需改代码、无代理、无 SDK,即可按 namespace 和 pod 导出 LLM token 用量、请求数和延迟,经 OpenTelemetry 输出。 仓库说明中列出了使用限制:agent 需要 hostPID 及 BPF、PERFMON、SYS_ADMIN、SYS_PTRACE 权限,每节点请求 200m CPU / 512Mi(上限 1 CPU / 1Gi);只能看到经由 OpenSSL 发出的 HTTPS 调用,明文 HTTP 端点(如集群内典型的 Ollama 或 vLLM)不在监控范围;此外 Node.js 26 默认协商 HTTP/2,其内置 fetch 及官方 OpenAI、Anthropic Node SDK 的调用目前也无法记录。
AI 根据报道生成 · 44 分钟前更新
最新进展11月5日 15:20
honeybeepf-llm:用 eBPF 无侵入采集 Kubernetes 中 LLM token 与延迟指标报道时间线
沿着报道,了解事件的不同侧面。
11月5日
- GitHub · 灵魂体仓库精选honeybeepf-llm:用 eBPF 无侵入采集 Kubernetes 中 LLM token 与延迟指标
honeybeepf-llm 是一个 Rust eBPF agent,以 DaemonSet 运行,通过 uprobe 挂接 OpenSSL 的 SSL_write/SSL_read,读取明文 HTTP 请求,无需改代码、无代理、无 SDK 即可按 Kubernetes namespace 和 pod 导出 LLM token 用量、请求数和延迟,经 OpenTelemetry 输出。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。