跳到正文
GitHub · 灵魂体仓库·· 18 天前AI 评分19

LLM 在 Kubernetes 上的安全分布式部署与性能评估:法兰克福应用技术大学硕士论文项目

farrukhshafique87/master-thesis-llm-kubernetes

来源与原文

GitHub · 灵魂体仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/farrukhshafique87/master-thesis-llm-kubernetes

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

法兰克福应用技术大学硕士论文项目开源,研究 LLM 推理在 Kubernetes 集群上的部署、安全与性能评估。技术栈包括 FastAPI、Ollama 运行 qwen2.5:0.5b、Prometheus、Grafana 和 k6,将对比基线部署与逐步加入 RBAC、Network Policies、mTLS 等安全机制后的性能开销,计划先在 Kind 本地集群开发,最终在托管云 Kubernetes 环境评估。项目仍在开发中,实验结果将陆续补充。

来源:GitHub · 灵魂体仓库 · github.com