返回 AI 情报
产品精选 662026-09-24 08:00Raphaël Rialland (Mistral AI), Simon Veitner (Red Hat), and Tomas Ruiz (Red Hat)vLLM 官方博客(RSS)

vLLM 新增基于 Gumbel-max 的无失真文本水印功能

Watermarking in vLLM

精选理由

原文给出水印算法原理、双键与去重方案及实测吞吐数据,读者可评估在生产环境启用水印的可行性与代价。

AI 摘要

vLLM 宣布支持基于 Gumbel-max 算法的无失真水印,将其集成进 Model Runner v2 的采样管线,并通过 PR #54053、#56122、#56233 实现融合 GPU kernel、双键方案和上下文去重,以兼容投机解码并保持输出多样性。

正文 · AI 翻译

按该来源的展示范围,站内仅提供摘要。

> 站内仅提供摘要,全文见原文。

原文

Original Title

Watermarking in vLLM

Source

vLLM 官方博客(RSS)

Site

vllm.ai

Author

Raphaël Rialland (Mistral AI), Simon Veitner (Red Hat), and Tomas Ruiz (Red Hat)

Published

2026-09-24 08:00

阅读原文· vllm.ai

继续阅读