全局蒸馏与局部微调：面向高阶推荐的推理蒸馏与测试时训练

面对数亿商品对难以直接承受大模型推理开销的现实，研究者将 LLM 的决策理由蒸馏进一个 1550 万参数的分类器中。线上仅需两组预计算的 768 维向量，配合品类维度的测试时自适应修正边界。在单台八卡机器上，计算成本降低近万倍，繁复的升级意图判别被收束为纯粹的特征比对。