GitHub · 去对齐工具与仓库·· 20 天前AI 评分30
VT-Transformer:基于 AI 生成 kernel 的 1x1x1 LLM 推理引擎
viitrix/vt-transformer
来源与原文
GitHub · 去对齐工具与仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/viitrix/vt-transformer
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
GitHub 上的 VT-Transformer 项目包含 vt-lang(用于描述和验证 LLM 计算的 DSL)和 vt-harness(AI 生成的推理框架)。它采用 1x1x1 架构——为特定模型、特定硬件、特定部署计划生成优化代码,以区别于 vLLM/SGLang 的 MxNxK 通用框架,模型可用 HuggingFace 的 safetensors 验证。项目处于早期阶段,vt-lang 运行时和 Qwen3.5-0.8B、Qwen3.8-27B 等模型描述已就绪,AI 生成流水线仍在开发中。
来源:GitHub · 去对齐工具与仓库 · github.com