一、知识蒸馏技术基础与早期探索 知识蒸馏(Knowledge Distillation, KD)的概念最早由Hinton等人在2015年提出,其核心思想是通过教师模型(Teacher Model)的软目标(Soft Target)指导学生模型(Student Model)……