一、知识蒸馏技术概述:从理论到轻量化的桥梁 知识蒸馏(Knowledge Distillation)通过构建“教师-学生”模型架构,将大型预训练模型(教师)的泛化能力迁移至轻量级模型(学生),在保持精度的同时显著降低计算成本……