GitHub · 去对齐工具与仓库·· 1 天前AI 评分40
max-bitons/LLM-Test:在 NVIDIA GB10 / Blackwell 上用 vLLM 部署 LLM 推理、图像生成与安全压测的开源项目
max-bitons/LLM-Test
来源与原文
GitHub · 去对齐工具与仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/max-bitons/LLM-Test
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
GitHub 项目 gb100test 在 NVIDIA GB10 / Blackwell GPU 上整合三类服务:通过 vLLM OpenAI 兼容 API 运行 Gemma 4 26B NVFP4、Llama 3.1(默认 8B Instruct NVFP4,上下文 64K)和 Qwen3.5-9B;用 Diffusers 提供支持 SDXL 与 FLUX.2-dev GGUF 的图像生成服务。项目还包含深度 QA 压测、图像生成性能测试及覆盖 10+ 类别的 100 个违禁主题安全边界测试脚本。
来源:GitHub · 去对齐工具与仓库 · github.com