UltraViT针对大型视觉语言模型中常被忽视的视觉编码器，依据真实端侧延迟设计金字塔结构，并在宏模块层面组合异构空间混合器。论文还提出先密集蒸馏、再由冻结语言模型进行生成监督的两阶段预训练，据称端侧速度约为既有方案的1.7倍。
最近 24 小时暂无可用热度快照。