一、技术背景：大模型蒸馏与小模型微调的必要性 在AI大模型时代，参数规模突破万亿级已成为常态，但高昂的训练成本、推理延迟和硬件依赖成为商业化落地的瓶颈。以GPT-4为例，其1.8万亿参数的模型需要数万张A100 GP……
