一、Temperature参数的物理意义与数学本质 知识蒸馏(Knowledge Distillation)的核心思想是通过教师模型输出的软标签(soft targets)指导学生模型学习,其中Temperature参数(通常记为τ)是控制软标签分布的关键……