OC
OC Tech

#SGLang

OurCoders 科技频道“SGLang”专题,共汇总 1 篇相关稿件。

DFlash2推测解码:模型变快开始依赖草稿质量
2026-08-20
开发者工具

DFlash2推测解码:模型变快开始依赖草稿质量

据 Inco AI 发布,DFlash 2 通过并行推测解码提升大模型推理吞吐,官方称相较传统自回归解码可达到约 2.7 至 3.4 倍吞吐提升,并已适配 SGLang、vLLM 等推理框架。