一、精度类型:从FP32到低比特量的演进 1.1 浮点数精度体系 大模型训练中常用的浮点数精度包括FP32(单精度)、FP16(半精度)和BF16(脑浮点16位)。FP32采用32位存储,包含1位符号位、8位指数位和23位尾数位,可……