NLP中的知识蒸馏：模型轻量化与性能提升的融合之道 一、知识蒸馏的技术本质与NLP适配性 知识蒸馏（Knowledge Distillation）作为一种模型压缩技术，其核心思想是通过软目标（soft target）将大型教师模型（Teacher……
