跳到主要内容

1 篇文档带有标签「inference-deployment」

查看所有标签

总览

本章节范围:不绑定单一并行策略的横向主题——计算-通信 overlap、推理部署模式 (Prefill/Decode 不对称、PD 分离、KV cache 迁移)。