DCAI
← 返回全部动态
vLLM 官方博客(网页)规则精选09月24日 00:00

Watermarking in vLLM

How vLLM implements distribution-preserving Gumbel-max text watermarking with efficient GPU kernels, statistical detection, speculative decoding, and repeated-c

阅读 vLLM 官方博客(网页) 原文 ↗