模型部署 (Serving)

把大模型跑在生产环境所需的基础设施与工具——批处理、KV 缓存、投机解码，常用 vLLM、TGI 等引擎。