#LLM推理

DFlash2推测解码：模型变快开始依赖草稿质量

据 Inco AI 发布，DFlash 2 通过并行推测解码提升大模型推理吞吐，官方称相较传统自回归解码可达到约 2.7 至 3.4 倍吞吐提升，并已适配 SGLang、vLLM 等推理框架。