跨架构知识迁移:VIT蒸馏到ResNet的实践与优化 一、知识蒸馏技术背景与跨架构挑战 知识蒸馏(Knowledge Distillation)作为模型压缩的核心技术,通过教师-学生模型架构实现知识迁移。传统蒸馏主要在同构架构间进行……