一、ERNIE 4.5的技术架构:MoE架构的规模化突破 ERNIE 4.5的核心亮点在于其300B参数的混合专家(Mixture of Experts, MoE)架构。与传统稠密模型不同,MoE通过动态路由机制将模型参数分散到多个“专家”子网络中,仅……