知识蒸馏中的温度控制:Temperate策略解析与实践 引言:温度参数在知识蒸馏中的核心地位 知识蒸馏(Knowledge Distillation)作为模型压缩领域的核心技术,通过教师-学生模型架构实现大模型知识向小模型的高效迁移……