ELiTeFormer：面向 FPGA 的高效 Transformer

ELiTeFormer 将混合线性注意力与三值线性投影联合设计，面向 FPGA 部署 Transformer。论文称其相较 LLaMA 3 实现 10 倍权重压缩和 12.8 倍 KV 缓存压缩，MMLU 得分 31.9%；其处理单元以位掩码替代乘法，避免使用 DSP，并在 VCK5000 Versal 上完成 HLS 仿真、综合与部署。