模型压缩之知识蒸馏:技术原理与实践探索 一、模型压缩的背景与知识蒸馏的兴起 在深度学习模型规模指数级增长的背景下,模型压缩技术成为解决计算资源瓶颈的关键。以BERT为例,其原始模型参数量达1.1亿,在移动端……