一、什么是模型蒸馏？从”老师教学生”说起 想象一位资深教授（大模型）掌握海量知识，但讲课方式过于学术化，学生（小模型）难以消化。模型蒸馏的本质，就是让这位教授用更通俗的方式（软标签）传授核心知识，帮助……
