随着生成式人工默认的迅速开展，人们越来越关注 AI 生成内容带来的潜在危险。例如，人们或者会有意或有意地流传 AI 生成的虚伪信息。特意是在图像生成畛域，分辨 AI 生成的图像和实在图像显得尤为关键。
一些钻研尝试用「加水印」的方法来分辨 AI 生成的内容。ICML 2023 卓越论文《A Watermark for Large Language Models》就针对文本生成提出为模型的输入减少水印。
如今，Google DeepMind 发表针对图像生成推出一种减少水印的工具 SynthID，以识别 AI 生成的图像，目前 SynthID Beta 版曾经上线。谷歌 CEO Sundar Pichai 和 Google DeepMind CEO 都转推引见了 SynthID 工具。
SynthID 目前可认为谷歌的文生图模型 Imagen 生成的图像减少水印，并且在视觉上难以发觉。如下图所示，有无水印的图像看起来没有区别：
经过扫描图像中的数字水印，SynthID 可以评价图像是由 Imagen 生成的或者性。
SynthID 不会影响图像品质，并且即使在减少滤镜、更改色彩以及经常使用各种有损紧缩方案（例如 JPEG）启动保留等修正之后，水印依然可以被检测到。
在 SynthID 经常使用两种深度学习模型（用于水印和识别），这两种模型已在多个图像集上一同启动了训练，并针对一系列指标启动了提升。
目前，局部用户可以在谷歌的 Vertex AI 平台上对 Imagen 经常使用 SynthID 工具（Beta 版）。
值得留意的是，SynthID 并不能保障水印可以十拿九稳地抵御极其图像解决，但它提供了一种有出路的技术方法，使人们能够担任任地经常使用人工默认生成的内容。钻研团队示意之后或者还会面向音频、视频和文本等模态推出相似的工具。