OmniOpt：现代优化器的分类学、几何视角与基准评测

OmniOpt 针对一百多种现代优化器缺乏统一比较框架的问题，提出五阶段更新元流程、基于范数约束线性最小化预言机的统一几何视角，以及机制与训练目标双维分类法。论文还设计跨语言模型预训练、图像分类、模型规模和训练制度的基准体系，用于分析不同优化器的收益与取舍。