一、框架背景与设计目标 随着大模型参数规模突破千亿级，传统单机推理方案面临内存瓶颈、算力不足与高延迟三大挑战。某行业常见技术方案通过多机并行扩展算力，但普遍存在通信开销大、负载不均、模型兼容性差等问……
