MoE推理优化
-
Kimi K3开源实战:2.8万亿参数大模型本地部署与推理优化指南
Kimi K3模型架构核心参数解读 2026年7月27日,月之暗面正式在Hugging Face开源Kimi K3完整模型权重,该模型拥有2.8万亿参数和100万token上下文窗…
-
MoE大模型推理优化实战:路由策略调整与显存管理方案
混合专家模型(Mixture of Experts, MoE)在大模型开发中已成为主流架构选择,DeepSeek-V3、Mixtral 8x7B等模型均采用这一方案。MoE通过条件…