在Ubuntu上解决PyTorch内存不足问题，可从以下方面入手：
- 减小批量大小：降低单次训练的数据量，直接减少内存占用。
- 梯度累积：通过多次小批量累积梯度再更新参数，平衡内存与训练效率。
- 混合精度训练：使用
torch.cuda.amp以16位精度计算，降低内存消耗。 - 释放缓存：调用
torch.cuda.empty_cache()清理未使用的缓存。 - 优化数据加载：启用
num_workers多线程加载数据，使用pin_memory加速传输。 - 模型优化
- 剪枝/量化：减少模型参数量，降低内存占用。
- 检查点技术：选择性存储中间激活值，减少内存峰值。
- 分布式训练：通过
DataParallel或FullyShardedDataParallel分摊内存压力。 - 硬件与系统优化
- 增加GPU内存或切换至更大内存设备。
- 调整内核参数或使用SSD提升数据读写效率。
- 监控与调试：使用
nvidia-smi或torch.cuda.memory_summary()分析内存使用情况。