从零理解 Speculative Decoding:原理、拒绝采样与技术演进

最经典的投机解码技术来源于google 2023年提出的 Fast Inference from Transformers via Speculative Decoding。

2026 年 08 月 31 日 · 11 分钟 · 5159 字 · Ge Zhang