ONNX部署

• 大模型知识蒸馏实战：HuggingFace Teacher-Student模型压缩与ONNX导出部署

  大模型知识蒸馏是AI模型部署环节的关键技术。通过Teacher-Student架构，将大模型的推理能力迁移到小模型中，在保持90%以上精度的同时将参数量压缩至1/10，显著降低推理…

  人工智能 8小时前