一、蒸馏损失函数的核心概念 蒸馏损失函数(Distillation Loss)是知识蒸馏(Knowledge Distillation)技术的核心组件,其设计目标是将大型教师模型(Teacher Model)的”软知识”(Soft Targets)迁移到轻量级学生……