一、模型技术背景与架构创新 近期某云厂商推出的123B参数AI模型,标志着大语言模型(LLM)技术进入新阶段。其核心架构采用混合专家模型(MoE)设计,通过动态路由机制将参数划分为多个专家模块,在推理时仅激活部……