跳到正文
GitHub · 灵魂体仓库·· 3 小时前AI 评分29

nova-hacks:基于一个 Qwen3-0.6B 的高度特化小型模型图网络实验

NOVA-SLM/nova-hacks

来源与原文

GitHub · 灵魂体仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/NOVA-SLM/nova-hacks

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

NOVA-SLM 的 nova-hacks 项目在单个 Qwen3-0.6B 基座上训练数百个 LoRA 适配器作为特化小模型,由一个管理 SLM 将问题拆解为步骤 DAG,再通过规则路由器在各层级并行调度专家模型生成答案。项目将测试该架构在准确率和延迟上能否超过单个更大模型,实验覆盖 1→256 个专家的原子性层级和 T1–T4 图拓扑。项目为 CMU 的 Nova 构建,GPU 任务运行于 Modal,使用 vLLM multi-LoRA 服务,计划分四轮在约 10 天内完成。

来源:GitHub · 灵魂体仓库 · github.com