先预测再训练：粒子物理基础模型的规模定律

论文展示了一种面向对撞机喷注Transformer的联合模型与数据规模定律。仅用小模型、覆盖三数量级训练计算量的数据拟合后，研究者能将训练计算量超过100倍的大模型损失预测到1%以内，并进一步关联微调损失、背景抑制率与物理任务表现。作者还发布了5个预训练模型、完整训练配方和代码。