一、知识蒸馏的技术背景与核心价值 在深度学习领域,模型性能与计算资源始终存在矛盾。大型神经网络(如ResNet-152、BERT等)虽能取得优异精度,但其参数量和计算开销往往超出边缘设备(如手机、IoT设备)的承载能……