参数高效微调
-
LoRA微调大模型实战教程：低成本部署百亿参数模型的参数高效方法
大语言模型微调过程中，全参数微调对显存和算力的需求极高。LoRA（Low-Rank Adaptation）通过引入低秩矩阵分解，将可训练参数量压缩到原模型的0.1%左右，同时保持接…
大语言模型微调过程中，全参数微调对显存和算力的需求极高。LoRA（Low-Rank Adaptation）通过引入低秩矩阵分解，将可训练参数量压缩到原模型的0.1%左右，同时保持接…