一、DeiT的技术背景与核心问题 在计算机视觉领域,Transformer模型凭借自注意力机制(Self-Attention)展现出强大的特征提取能力,但其对数据量和计算资源的高需求成为规模化应用的瓶颈。例如,ViT(Vision Transf……