一、知识蒸馏在NLP领域的核心价值 知识蒸馏(Knowledge Distillation)通过将大型教师模型(Teacher Model)的软目标(Soft Target)知识迁移至轻量级学生模型(Student Model),在保持模型精度的同时显著降低计……