跳到正文
GitHub · 去对齐工具与仓库·· 5 天前AI 评分29

Maxxxel/v100-volta-ai-optimization-lab:单张 Tesla V100 上的本地 AI 推理优化研究仓库

Maxxxel/v100-volta-ai-optimization-lab

来源与原文

GitHub · 去对齐工具与仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/Maxxxel/v100-volta-ai-optimization-lab

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

GitHub 上的独立社区研究项目 Maxxxel/v100-volta-ai-optimization-lab,在单张 NVIDIA Tesla V100-SXM2(16 GB HBM2)上研究推理性能、agent 可靠性与能效。项目基于 CUDA 12.8 与 llama.cpp/GGUF,累计覆盖 130 个模型挑战者、32 种附加技术、108 个合格因子范围,证据快照为 Matrix revision 237。项目与 NVIDIA、Ollama 等无隶属关系,研究仍在进行,未得出通用最优模型结论。

来源:GitHub · 去对齐工具与仓库 · github.com