GitHub · 灵魂体仓库·· 3 小时前AI 评分29
nova-hacks:基于一个 Qwen3-0.6B 的高度特化小型模型图网络实验
NOVA-SLM/nova-hacks
来源与原文
GitHub · 灵魂体仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/NOVA-SLM/nova-hacks
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
NOVA-SLM 的 nova-hacks 项目在单个 Qwen3-0.6B 基座上训练数百个 LoRA 适配器作为特化小模型,由一个管理 SLM 将问题拆解为步骤 DAG,再通过规则路由器在各层级并行调度专家模型生成答案。项目将测试该架构在准确率和延迟上能否超过单个更大模型,实验覆盖 1→256 个专家的原子性层级和 T1–T4 图拓扑。项目为 CMU 的 Nova 构建,GPU 任务运行于 Modal,使用 vLLM multi-LoRA 服务,计划分四轮在约 10 天内完成。
来源:GitHub · 灵魂体仓库 · github.com