一、深度学习蒸馏技术理论框架 1.1 知识蒸馏的本质与数学表达 知识蒸馏(Knowledge Distillation)通过构建教师-学生模型架构,将大型教师模型(Teacher Model)的”软目标”(Soft Target)作为监督信号,指导学生……