跳到正文
阿里雲開發者社區 AI·· 1 小時前AI 評分41

生成模型水印與檢測綜述

A Survey on Generative Model Watermarking and Detection |生成模型水印与检测综述

AI 導讀

生成模型水印與檢測技術在不可感知性、魯棒性與資訊容量之間權衡,研究由事後分類轉向在生成過程中嵌入水印。2023年KGW的綠紅列表範式適用於自回歸生成,但在擴散語言模型的並行生成中受限,促使研究探索潛空間幾何與順序無關方法。綜述涵蓋文本、圖像及音視頻水印、攻防分析與模型溯源。

正文

简介: 生成模型水印旨在解决生成式AI内容在版权归属与真实性验证上的核心矛盾,其技术演进本质是在不可感知性与鲁棒性之间寻找平衡。早期研究依赖事后检测,但随模型能力增强,其泛化性迅速下降,迫使领域转向在生成解码或采样阶段直接嵌入统计偏差。2023年KGW确立的绿红列表范式成为文本水印基石,却因依赖固定上下文而在扩散语言模型(DLMs)的并行生成中失效。为应对非自回归架构,研究重心转向潜空间几何与顺序无关哈希,通过解耦生成顺序换取跨架构的通用性。与此同时,对抗性重生成攻击暴露了像素级水印的脆弱性,促使方法向语义耦合与模型内化演进。

综述原文见 www.arxivreview.com

导读

生成模型水印旨在解决生成式AI内容在版权归属与真实性验证上的核心矛盾,其技术演进本质是在不可感知性与鲁棒性之间寻找平衡。早期研究依赖事后检测,但随模型能力增强,其泛化性迅速下降,迫使领域转向在生成解码或采样阶段直接嵌入统计偏差。2023年KGW确立的绿红列表范式成为文本水印基石,却因依赖固定上下文而在扩散语言模型(DLMs)的并行生成中失效。为应对非自回归架构,研究重心转向潜空间几何与顺序无关哈希,通过解耦生成顺序换取跨架构的通用性。与此同时,对抗性重生成攻击暴露了像素级水印的脆弱性,促使方法向语义耦合与模型内化演进。当前领域已形成自回归、扩散与多模态并行的方法格局,核心张力在于无偏性、鲁棒性与多比特容量的三角权衡。全文按问题演化与路线取舍组织,覆盖从统计偏置到潜空间几何的主要技术路线与评测体系。

1. 研究背景、问题结构与演进脉络

生成模型水印的兴起源于生成式AI在文本、图像等多模态内容生成上的突破,引发了对内容真实性与滥用的严重关切。其核心问题可形式化为:在生成模型 $p_\theta(x)$ 的概率分布约束下,设计一个嵌入函数 $E$ 与检测函数 $D$,使得 $D(E(x))=1$ 且 $D(x')=0$($x'$ 为人类生成内容),同时满足不可感知性约束 $\mathbb{E}[d(x, E(x))] < \epsilon$。这一形式化揭示了水印问题的本质:它并非简单的信号叠加,而是一个在通信信道中对抗噪声与语义扰动的隐式编码问题。早期研究主要依赖事后检测,即训练一个分类器区分AI与人类内容,但这种方法受制于生成模型能力的快速迭代,泛化性极差。

问题定义经历了从“区分AI与人类”到“区分特定模型/用户”的演化。最初,水印仅作为二元检测器,验证内容是否由某类模型生成;随后,随着监管压力与工业需求增加,多比特编码成为焦点,要求水印携带用户ID或模型版本信息。这一转变引入了信息容量与错误率的约束,使得水印设计必须考虑信道容量极限。子问题间存在强依赖关系:无偏性是基础约束,若水印破坏生成分布导致质量下降,则不可感知性失效;鲁棒性是核心目标,但往往以牺牲无偏性或容量为代价;多比特编码则依赖前两者的稳定信道,若基础信号易被去除,细粒度溯源便无从谈起。

范式边界上,内容水印与模型指纹虽同属溯源体系,但技术路径截然不同。内容水印依赖输出分布,旨在防止内容滥用,其信号嵌入在生成内容中;模型指纹则依赖参数或功能子空间,旨在防止模型窃取,其信号锚定在模型内部。两者互补但独立,前者在语义编辑下易失效,后者在模型微调下可能稀释。当前研究热点集中在跨模态联合水印与模型级指纹的协同,旨在构建可验证、抗篡改且不影响用户体验的溯源体系。

约束演化史清晰地展示了方法如何因应架构与攻击变化而演变。2020-2022年,DDPM确立扩散模型架构,KGW提出绿红列表范式,奠定了自回归文本水印的基础,但假设了顺序确定的生成过程。2023-2024年,扩散语言模型(DLMs)与图像扩散模型的兴起打破了上下文依赖,Tree-Ring在初始噪声中嵌入环形图案,解决了非自回归场景下的顺序缺失问题。2025-2026年,对抗性重生成攻击(如D2RA)暴露了像素级水印的脆弱性,研究转向潜空间调制与模型内化(如PRO、Spherical Watermark),以换取对语义级攻击的鲁棒性。当前形态是理论驱动与多模态融合的并行演进,核心瓶颈在于语义级对抗下的无偏鲁棒编码。

如果用一个核心问题概括该领域,那便是在生成过程的概率分布约束下,寻找一种在语义级对抗攻击下保持统计显著性且信息容量可扩展的隐式编码机制。

2. 方法体系

  • 2020:DDPM——通过前向加噪与反向去噪的马尔可夫链过程实现高质量图像生成,确立了扩散模型在生成式AI中的核心地位,为后续潜空间水印嵌入提供了基础架构

  • 2022:KGW——提出基于绿红列表的统计水印方案,通过哈希函数将词汇表划分为绿红列表并偏置绿列表token的logits,奠定了自回归语言模型水印嵌入与检测的标准范式

  • 2023:Tree-Ring——在扩散模型初始噪声的傅里叶频谱中嵌入环形图案,实现了无需修改模型权重的零比特水印,显著提升了图像水印对后处理操作的鲁棒性

  • 2023:Unigram——利用一元哈希生成水印密钥,通过增强统计水印的鲁棒性解决了传统KGW在编辑攻击下易失效的问题,推动了水印方案从固定上下文向语义无关方向演进

  • 2024:Christ-Gunn——建立了基于伪随机错误校正码的水印鲁棒性理论界限,证明了在独立符号篡改模型下现有鲁棒性保证的最优性,为水印检测的信息论分析提供了理论基石

  • 2025:DLM-Watermark——针对扩散语言模型(DLM)的任意顺序生成特性,提出在期望上应用水印并促进增强水印强度的token作为上下文,解决了自回归水印在DLM中因上下文不可用而失效的问题

  • 2026:Spherical Watermark——构建基于可逆变换的签名机制,在扩散模型的高斯噪声输入中嵌入用户相关水印,实现了免加密、无损的潜空间水印嵌入与提取

  • 2026:mAVE——针对联合音视频生成模型,提出流形音视频纠缠水印,在初始化时加密绑定音频和视频潜变量,解决了现有独立验证机制在模态交换攻击下的绑定漏洞

这条时间线勾勒了该领域方法演进的代表性节点:从 2020 年的 DDPM 奠定该领域方法基线,经 2022 年 KGW 的推进,到 2026 年的 mAVE 代表当前前沿。各节点对应的技术路线、取舍与关联,详见后续小节。

2.1 LLM文本水印机制

自回归语言模型水印的演进始于KGW(Kirchenbauer et al., 2023)确立的绿红列表范式,其核心假设是生成过程顺序确定且攻击者仅能进行简单token替换。然而,KGW在文本改写或扩散语言模型(DLMs)并行生成时,因上下文缺失或改变导致绿红列表划分失效,水印检测率骤降。为解决这一失败案例,Unigram(Zhao et al., 2023)引入语义无关哈希,通过一元哈希生成水印密钥,放弃了上下文依赖以换取对编辑攻击的鲁棒性,但增加了哈希计算复杂度。针对DLMs的任意顺序生成特性,DLM-Watermark(Gloaguen et al., 2025, P3)提出在期望上应用水印,解决了自回归水印在DLM中因上下文不可用而失效的问题。DMark(Wu et al., 2025, P5)进一步提出顺序无关机制,通过双向局部上下文约束和哈希函数诱导的偏置,解耦水印嵌入与生成顺序,实现了在任意重掩码策略下的鲁棒检测。dgMARK(Hong and No, 2026, P14)则利用dLLMs对去掩码顺序的敏感性作为新水印通道,通过引导去掩码顺序朝向满足二元哈希奇偶约束的高奖励候选token位置,无需显式重加权模型学习概率即可嵌入水印,其即插即用设计兼容常见解码策略。

在开源模型场景下,PRO(Xue et al., 2025, P8)针对权重公开导致的解码逻辑可移除问题,通过训练学生模型原生生成带水印文本,将原始LLM与水印解码函数组合为教师模型,放弃了修改解码方案的灵活性以换取模型修改后的持久性。Ensemble Framework(ICLR 2026, P35)构建基于logits的无偏水印集成框架,通过组合多个独立抽取的水印密钥来增强检测可靠性,利用无偏性在密钥分布期望上保持边际无偏的特性,顺序组合堆叠弱统计信号,在不牺牲无偏性的前提下提升鲁棒性。Unified Framework(Gloaguen et al., 2026, P15)将现有LLM水印方案统一为受限优化问题,明确揭示了每种方法优化的约束条件,通过形式化哈希机制与采样机制,展示了不同水印设计在质量、多样性和功率之间的权衡关系,为针对特定需求定制水印方案提供了理论基础。

方法 适用架构 嵌入位置 核心机制 主要优势 主要劣势/成本
KGW AR Logits 上下文哈希 简洁高效 上下文依赖,编辑脆弱
Unigram AR Logits 语义无关哈希 抗编辑 计算复杂度增加
DMark DLM Logits 顺序无关偏置 任意顺序鲁棒 双向约束计算开销
PRO AR (Open) 模型权重 学生模型蒸馏 抗模型修改 需重新训练
Ensemble AR Logits 多密钥集成 无偏且鲁棒 检测统计量方差大

2.2 图像视频水印技术

扩散模型图像水印的演进始于Tree-Ring(Tancik et al., 2023)在初始噪声傅里叶频谱中嵌入环形图案,实现了无需修改模型权重的零比特水印,显著提升了图像水印对后处理操作的鲁棒性。然而,像素级水印在扩散模型重绘或语义编辑下极易被去除,促使研究转向潜空间调制。Spherical Watermark(ICLR 2026, P33)构建基于可逆变换的签名机制,在扩散模型的高斯噪声输入中嵌入用户相关水印,通过离线生成固定签名与在线自动应用,放弃了加密的计算开销以换取免加密、无损的潜空间水印嵌入与提取。Gaussian Shannon(Zhang et al., 2026, P18)提出基于通信理论的高精度扩散模型水印方法,将水印嵌入视为通信问题,利用高斯信道特性优化水印编码,在潜空间阶段直接修改信息,支持多比特消息编码,通过理论驱动的设计解决了传统经验方法在容量与鲁棒性上的瓶颈。

Guidance Watermarking(Gesny et al., 2025, P2)利用现成水印解码器的梯度引导扩散过程,将后验水印转换为生成过程中的嵌入,通过计算包含不同图像增强的梯度,增强了水印对解码器原本不鲁棒的攻击的抵抗力,无需重新训练或微调。Learning to Watermark in Latent Space(Rebuffi et al., 2026, P13)提出在生成模型潜空间学习水印的方法,通过训练后验水印嵌入-提取器对,并将水印嵌入器操作在生成模型的潜空间中,可选地将后验水印蒸馏到生成模型本身或其潜解码器中,实现了从后验水印到生成过程水印的平滑过渡。MOLM(Fares et al., 2025, P4)提出混合LoRA标记的水印方法,通过微调扩散模型的LoRA模块嵌入水印,利用LoRA的低秩特性,在保持生成质量的同时嵌入不可感知的水印信号,支持多比特密钥提取,避免了全参数微调的高昂成本。

2.3 水印安全攻防分析

水印安全攻防分析揭示了现有方案在对抗性攻击下的脆弱性。D2RA(Meshram and Chandrasekaran, 2025, P6)提出双域再生攻击,通过频域投影抑制水印痕迹并结合语义再生保持感知保真度,实现对单图像水印的去除,其设计利用了频域与语义域的双重优势,有效削弱水印信号同时保留图像内容,揭示了现有鲁棒水印在面对单图像对抗攻击时的脆弱性。MarkNull(Cao et al., 2026, P30)提出模型无关的水印去除方法,通过在流形上的潜空间操作去除AI生成图像中的水印,无需优化,利用潜空间的结构特性直接操作以消除水印信号,支持图像和视频模态,避免了传统优化攻击的高计算成本。

Watermarks Attack Watermarks(Bulychev et al., 2026, P22)提出重新水印作为通用去除策略,通过嵌入新水印覆盖原有水印,实现对现有水印的去除,利用了水印共存特性,通过对抗性覆盖使原有水印检测失效,同时保持图像质量,揭示了水印共存机制在对抗场景下的漏洞。On the Robustness of AR Image Watermarks(Müller et al., 2026, P20)评估自回归图像生成水印的鲁棒性,并提出三种针对AR模型的新攻击方法,包括向量量化再生攻击、潜空间编码器优化攻击和频率注入伪造攻击,分别针对token索引恢复、潜空间表示和频域特性,揭示了现有水印在AR架构下的脆弱性。Understanding Semantic Perturbations(Nakra and Wu, 2026, P19)研究语义扰动对生成图像水印的影响,提出基于掩码再生的语义扰动算子,通过局部区域重生成模拟语义编辑,评估水印在语义变化下的鲁棒性,无需访问模型参数,揭示了语义编辑对水印检测的破坏性影响。

2.4 模型与数据溯源

模型与数据溯源聚焦于生成模型权重、训练数据及衍生模型的版权保护。HMark(Li et al., 2025, P10)提出放射性多比特语义潜空间水印,通过嵌入不可感知水印保护专有图像数据集,防止未授权微调模型生成相似内容,利用水印的放射性特性,使得水印信号传播到在带水印数据上训练的模型中,即使跨架构也能转移,实现了数据版权的跨模型追踪。Functional Subspace Watermarking(Ding et al., 2026, P17)提出功能子空间水印,将所有权信号锚定在低维功能骨干中,通过求解广义特征值问题提取稳定功能子空间进行水印注入,引入自适应谱截断策略,在鲁棒性与模型效用之间取得平衡,解决了现有模型水印在微调、量化等参数扰动下提取困难的问题。

LineageMark(Zhang et al., 2026, P25)提出多用户白盒水印,用于模型衍生链中的贡献追踪,支持多级模型衍生场景下的所有权验证,通过嵌入多层指纹,允许不同层级的角色控制不同数量的指纹,实现分层归因,解决了开放LLM生态系统中模型复用与衍生导致的贡献归属难题。PlugMark(ICCV 2025, P36)提出插件式零水印框架,通过提取扩散模型的知识并将其映射为分类结果,利用决策边界作为水印,无需修改模型参数,设计了插件式扩散知识提取器,从模型中提取知识并映射到分类结果,实现零水印验证,避免了参数嵌入的干扰。Safeguarding T2I Models Against Distillation(Gao et al., 2026, P24)提出针对文本到图像生成模型未授权知识蒸馏的保护方法,通过输出级保护防止模型窃取,利用生成图像编码的视觉知识,通过快速输出级保护机制干扰蒸馏过程,无需显式预算控制,解决了闭源模型通过API暴露导致的模型窃取风险。

2.5 多模态与代码水印

多模态与代码水印探索音频、音乐、时间序列及源代码等特定模态的水印技术。mAVE(Si et al., 2026, P16)提出针对联合音视频生成模型的水印框架,通过流形音视频纠缠在初始化时加密绑定音频和视频潜变量,解决模态交换攻击下的绑定漏洞,原生设计用于联合架构,避免了现有独立验证机制在模态替换时的误认证问题。CLASP(Xu et al., 2025, P7)提出免训练、即插即用的LLM辅助源代码水印方法,通过语义保持变换嵌入水印,利用检索基础比较提取水印位,将源代码水印重构为语义一致嵌入和差异比较提取两个阶段,支持跨语言部署,无需训练专用解码器。

Multi-Channel Spread-Spectrum Code Watermarking(Choi et al., 2026, P27)提出多通道扩频代码水印,作为首个后验、免训练且支持24比特负载的代码水印,提供形式化鲁棒性保证,利用多通道扩频技术,通过组合独立通道提升水印容量,支持模型标识符编码。Locally Tokenized Generative Model for Time-Series Watermarking(Kim et al., 2026, P31)提出局部标记生成模型用于鲁棒时间序列水印,通过设计局部内部表示(L-VQVAE)利用局部性增强水印鲁棒性,利用局部标记特性,使得后编辑攻击的影响局限于局部区域,从而保护水印信号。MusicMark(Yun et al., 2026, P28)提出针对音乐生成的鲁棒生成水印框架,将水印嵌入作为生成过程的一部分,而非后验扰动,解决音乐复杂结构下的水印脆弱性问题,利用生成式水印技术,在音乐生成过程中嵌入水印,抵抗神经编解码器重合成等攻击。

3. 关键共识、分歧与开放问题

3.1 领域共识

生成时水印(In-generation)在鲁棒性和语义一致性上优于事后水印(Post-hoc),是未来主流方向,这一共识在多个基准上被反复验证:DMark的99.5% TPR@1%FPR与Spherical Watermark的100% Bit Accuracy均大幅超越事后检测基线(支撑证据:P5、P33)。无偏性(Unbiasedness)是高质量水印的必要条件,必须通过理论证明或实验验证水印不改变原始生成分布,Ensemble Framework与Unified Framework均将无偏性作为核心约束(支撑证据:P35、P15)。KGW(绿-红列表)是文本水印的基础范式,但其直接应用需针对非自回归模型(如DLMs)进行重大修改,DMark与dgMARK的顺序无关设计正是对这一共识的回应(支撑证据:P5、P14)。扩散模型的水印嵌入潜空间(Latent Space)或初始噪声(Initial Noise)比嵌入像素空间更具鲁棒性,Spherical Watermark与Gaussian Shannon的潜空间调制均验证了这一点(支撑证据:P33、P18)。对抗性攻击(特别是重生成和改写)是当前水印系统面临的最大威胁,鲁棒性评估必须包含此类攻击,D2RA与MarkNull的攻击实验揭示了现有方案的脆弱性(支撑证据:P6、P30)。

3.2 观点分歧

鲁棒性的理论极限是领域内的根本分歧。Christ-Gunn(Francati et al., 2025, P1)证明了在独立符号篡改模型下,现有鲁棒性保证(如错误校正码)已达到信息论最优,无法容忍更大比例的符号错误。然而,D2RA与MarkNull展示了在语义级攻击下,即使符号错误率低于理论界限,水印仍可被去除,因为语义攻击并非独立符号篡改,而是利用生成模型的先验知识进行结构化去除。现有证据偏向语义攻击突破理论界限的观点,但缺乏将语义攻击形式化为信道噪声的理论框架,现有实验多为特定攻击下的案例研究,难以推广为通用界限。无偏性与鲁棒性的权衡是另一个核心争论。Unified Framework与Ensemble Framework认为通过约束优化或集成多个弱信号,可以在保持无偏性的同时提升鲁棒性,打破传统权衡;而传统KGW变体认为无偏性要求采样分布不变,限制了信号注入的强度,鲁棒性与无偏性存在根本性的负相关。现有证据偏向集成框架的有效性,但仅在特定设置下成立,且计算开销大,缺乏大规模、多场景下的系统性对比。

3.3 其他开放问题

当前最紧迫的工程问题是检测效率与多用户共存。现有检测过程往往需要多次前向传播或复杂优化,难以满足大规模部署下的实时性需求;多用户场景下,水印共存与干扰抑制缺乏标准化接口。最根本的研究问题是语义级对抗防御与跨模态溯源。语义级攻击(如扩散模型重采样)难以抵抗,需探索将水印信号与语义内容深度耦合或采用多频谱/多层级嵌入策略;跨模态水印的绑定机制(如mAVE的流形纠缠)尚处于早期阶段,缺乏通用理论指导。模型衍生链的放射性溯源也是关键盲区,HMark的放射性水印虽实现了跨模型追踪,但在多次微调、合并或蒸馏后,原始水印信号可能被稀释或覆盖,难以准确追踪模型的血缘关系。已知—争议—未知认知图谱显示,领域在生成时嵌入与无偏性上达成共识,在鲁棒性极限与无偏权衡上存在争议,在语义级对抗防御与跨模态溯源上仍属未知。发展趋势将向理论驱动与多模态融合演进,核心瓶颈在于语义级对抗下的无偏鲁棒编码。

4. 总结与展望

生成模型水印的核心矛盾在于信号强度(鲁棒性)与分布保持(无偏性/质量)的权衡,这一矛盾在语义级对抗攻击下尤为突出。研究尝试过从统计偏置到潜空间几何、从解码器修改到模型内化、从单模态到多模态的多种路线,但核心瓶颈仍在于如何在生成过程的概率分布约束下,寻找一种在语义级对抗攻击下保持统计显著性且信息容量可扩展的隐式编码机制。当前领域已形成自回归、扩散与多模态并行的方法格局,但语义级对抗防御与跨模态溯源仍是主要认知盲区。

未来可能突破的方向包括:增强水印对语义级编辑和生成式攻击的鲁棒性,需探索将水印信号与语义内容深度耦合或采用多频谱/多层级嵌入策略(P6、P30共同指向);开发无偏且保持分布一致性的水印方案,需研究在严格保持原始语言模型分布前提下提升检测信号强度的方法,如集成框架或约束优化(P35、P15共同指向);实现跨模态和多用户场景下的可追溯性,需设计支持多比特、多用户共存且能抵抗模型微调/蒸馏攻击的水印(P16、P25共同指向)。对进入者最值得做的一件事是建立统一评估基准,涵盖语义级攻击、跨语言公平性与多用户共存,以解决当前评测体系“基准滞后”与“攻击维度单一”的问题,为水印方案的公平比较与工业部署提供标准化支撑。

以上为节选,完整内容见ArxivReview

來源:阿里雲開發者社區 AI · developer.aliyun.com