一、蒸馏机制的核心定义与理论框架 知识蒸馏(Knowledge Distillation)的本质是通过教师模型向学生模型传递”软知识”(Soft Targets),其核心在于蒸馏机制的设计。与传统仅传递硬标签(Hard Labels)的监督学习不……