跳到主要内容

1 篇文档带有标签「speculative」

查看所有标签

采样与解码

从 greedy 到 nucleus 再到 speculative decoding，各采样策略的原理与适用场景