知识蒸馏中的温度系数:原理、影响与优化策略 一、温度系数的核心作用机制 知识蒸馏通过教师模型输出的软标签(soft targets)传递知识,其核心公式为:<br>qi=exp(zi/T)∑jexp(zj/T)<br><br>q_i……