跳到正文
GitHub · 去对齐工具与仓库·· 12 天前AI 评分53

Podman AI Lab:在本地环境运行 LLM 的 Podman Desktop 开源扩展

containers/podman-desktop-extension-ai-lab

来源与原文

GitHub · 去对齐工具与仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/containers/podman-desktop-extension-ai-lab

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

Podman AI Lab 是 Podman Desktop 的开源扩展,用于在本地运行 LLM,提供精选开源模型下载、容器化推理服务、Playground 实验环境和含聊天机器人、代码生成、文本摘要等用例的 Recipes Catalog。支持 GGUF、PyTorch、TensorFlow 格式,要求 Podman Desktop 1.8.0+ 与 Podman 4.9.0+,每个模型约需 4GiB 内存和 4 CPU,建议 Podman 机器至少 12GB 内存,同时运行模型不超过 3 个。

来源:GitHub · 去对齐工具与仓库 · github.com