一、技术架构概述 在AI应用开发中，大语言模型的本地化部署面临两大核心挑战：硬件成本与推理延迟。本文提出一种创新架构：通过轻量级客户端与本地共享服务分离的设计，在保持低硬件投入的同时实现高效推理。该架……
