论文指出,视觉语言MoE中的标准Switch辅助损失只平衡图像与文本混合后的总负载,二者误差可能相互抵消,导致不同图像分辨率下负载不均衡变化超过5倍。作者据此提出ReBA,分别约束模态负载,并按图像实例均衡视觉路由;在四个拆分骨干模型上,ReBA降低所有报告输入的负载,同时保持平均任务准确率相近。
最近 24 小时暂无可用热度快照。