跳到正文
GitHub · 去对齐工具与仓库·· 20 天前AI 评分30

VT-Transformer:基于 AI 生成 kernel 的 1x1x1 LLM 推理引擎

viitrix/vt-transformer

来源与原文

GitHub · 去对齐工具与仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/viitrix/vt-transformer

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

GitHub 上的 VT-Transformer 项目包含 vt-lang(用于描述和验证 LLM 计算的 DSL)和 vt-harness(AI 生成的推理框架)。它采用 1x1x1 架构——为特定模型、特定硬件、特定部署计划生成优化代码,以区别于 vLLM/SGLang 的 MxNxK 通用框架,模型可用 HuggingFace 的 safetensors 验证。项目处于早期阶段,vt-lang 运行时和 Qwen3.5-0.8B、Qwen3.8-27B 等模型描述已就绪,AI 生成流水线仍在开发中。

来源:GitHub · 去对齐工具与仓库 · github.com