知识蒸馏：Distillation——模型轻量化的革命性技术 一、知识蒸馏的技术本质与数学基础 知识蒸馏的核心思想源于”软目标”（Soft Target）的传递机制。传统监督学习依赖硬标签（如分类任务中的one-hot编码），而知识蒸……
