GitHub · 去对齐工具与仓库·· 12 天前AI 评分53
Podman AI Lab:在本地环境运行 LLM 的 Podman Desktop 开源扩展
containers/podman-desktop-extension-ai-lab
来源与原文
GitHub · 去对齐工具与仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/containers/podman-desktop-extension-ai-lab
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
Podman AI Lab 是 Podman Desktop 的开源扩展,用于在本地运行 LLM,提供精选开源模型下载、容器化推理服务、Playground 实验环境和含聊天机器人、代码生成、文本摘要等用例的 Recipes Catalog。支持 GGUF、PyTorch、TensorFlow 格式,要求 Podman Desktop 1.8.0+ 与 Podman 4.9.0+,每个模型约需 4GiB 内存和 4 CPU,建议 Podman 机器至少 12GB 内存,同时运行模型不超过 3 个。
来源:GitHub · 去对齐工具与仓库 · github.com