一、知识蒸馏的本质:从教师到学生的信息传递 知识蒸馏(Knowledge Distillation)作为一种模型压缩技术,其核心思想在于通过教师模型(Teacher Model)向学生模型(Student Model)传递知识,实现轻量化模型的性……