跳到正文
GitHub · 去对齐工具与仓库·· 1 天前AI 评分40

max-bitons/LLM-Test:在 NVIDIA GB10 / Blackwell 上用 vLLM 部署 LLM 推理、图像生成与安全压测的开源项目

max-bitons/LLM-Test

来源与原文

GitHub · 去对齐工具与仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/max-bitons/LLM-Test

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

GitHub 项目 gb100test 在 NVIDIA GB10 / Blackwell GPU 上整合三类服务:通过 vLLM OpenAI 兼容 API 运行 Gemma 4 26B NVFP4、Llama 3.1(默认 8B Instruct NVFP4,上下文 64K)和 Qwen3.5-9B;用 Diffusers 提供支持 SDXL 与 FLUX.2-dev GGUF 的图像生成服务。项目还包含深度 QA 压测、图像生成性能测试及覆盖 10+ 类别的 100 个违禁主题安全边界测试脚本。

来源:GitHub · 去对齐工具与仓库 · github.com