arXiv · cs.AI· Gang Fu·· 22 天前AI 评分43
BRANCH-MoE：面向大型嵌入模型的平衡感知树状路由
BRANCH-MoE: Balance-Aware Tree Routing for Large Embedding Models
来源与原文
arXiv · cs.AI
作者：Gang Fu
发布时间：（北京时间）
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.06725v1
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
BRANCH-MoE 是一种将 E 个专家置于深度 log₂E 二叉决策树叶节点的 MoE 路由架构，通过指数移动平均估计的到达加权均值中心化分支概率，无需辅助负载均衡损失即可促进两个子树的均衡利用。
来源：arXiv · cs.AI · arxiv.org