知识蒸馏:轻量化模型的高效迁移学习之道 一、知识蒸馏的本质与核心价值 知识蒸馏(Knowledge Distillation)是一种基于教师-学生(Teacher-Student)架构的模型压缩技术,其核心思想是通过软目标(Soft Target)……