GitHub · 去对齐工具与仓库·· 12 天前精选AI 评分62
NeuroBrix 0.5.4 发布:一个容器格式统一运行多模态模型的开源推理引擎
NeuroBrix/neurobrix
来源与原文
GitHub · 去对齐工具与仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/NeuroBrix/neurobrix
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
NeuroBrix 是一个开源推理引擎,用统一的 .nbx 容器格式和 CLI 运行 LLM、VLM、语音识别、TTS、图像与视频生成及超分模型,当前版本 0.5.4 支持 NVIDIA GPU(CUDA)和 CPU,引擎与工具链采用 Apache License 2.0。容器内含计算图、权重与拓扑,默认走 PyTorch 分支,--triton 走自研 Triton 内核,可自动规划组件在单卡、多卡或主机内存上的放置;Hub 截至 2026-10-12 列出 10 类共 45 个公开模型,Apple Silicon 支持计划在 0.5.5 推出。
推荐理由
原文给出了 .nbx 容器结构、双计算分支和硬件适配细节,读者可以据此评估这个统一推理引擎是否适合自己的本地部署场景。
来源:GitHub · 去对齐工具与仓库 · github.com