生成式 AI 的进步正使人们能够以全新的方式创建内容——从文本到高质量音频、图像和视频。随着这些能力不断发展并更广泛地可用，真实性、语境和验证等问题也随之出现。

今天，我们宣布推出 SynthID Detector，这是一个验证门户，可快速高效地识别由 Google AI 制作的 AI 生成内容。该门户在一个平台上提供跨不同模态的检测能力，并在生成式媒体快速演进的环境中提供关键透明度。它还可以突出显示内容中哪些部分更可能已使用 SynthID 加水印。

当我们推出 SynthID——一种嵌入不可感知水印并支持识别 AI 生成内容的先进工具——时，我们的目标是提供一套新颖的技术解决方案，帮助尽量减少错误信息和错误归因。

SynthID 不仅能保持内容质量，还可作为一种稳健的水印，即使内容被分享或经历一系列转换，仍然可以被检测到。虽然最初仅专注于 AI 生成图像，但此后我们已将 SynthID 扩展到覆盖 AI 生成文本、音频和视频内容，包括 Google 旗下 Gemini、Imagen、Lyria 和 Veo 模型生成的内容。已有超过 100 亿件内容被加上 SynthID 水印。

SynthID Detector 的工作原理

当您上传使用 Google AI 工具创建的图像、音轨、视频或一段文本时，该门户会扫描媒体以查找 SynthID 水印。如果检测到水印，门户将突出显示内容中最可能被加水印的特定部分。

对于音频，该门户会精确定位检测到 SynthID 水印的具体片段；对于图像，则会标示最可能存在水印的区域。

以下是 SynthID Detector 的工作方式 1：

1. 上传内容：上传使用 Google AI 工具创建的图像、音轨、视频或一段文本。
2. 扫描水印：该门户会扫描已上传的媒体，并检测上传内容或其中的特定部分是否包含 SynthID 水印。
3. 查看结果：该门户将展示结果；如果检测到 SynthID 水印，将突出显示内容中哪些部分更可能已被加水印。

我们今天开始向早期测试者推出该功能，之后再更广泛地开放。记者、媒体专业人士和研究人员可以加入我们的候补名单，以获取 SynthID Detector 的访问权限。

扩展 SynthID 生态系统

为帮助发展可信赖的生态系统，我们已经开源了 SynthID 文本水印技术，因此任何开发者都可以使用这项技术进行构建，并将其整合到自己的模型中。

今年早些时候，我们迈出了创建行业伙伴生态系统以扩大 SynthID 技术使用范围的第一步：我们与 NVIDIA 合作，为其在 build.nvidia.com 上的 NVIDIA Cosmos™ 预览版 NIM 微服务生成的视频加水印。这意味着网络上将有更多内容嵌入 SynthID，而不仅仅是 Google 生成的内容。

与此同时，其他合作伙伴能够检测某段内容是否已加上 SynthID 水印也很重要。因此，今天我们还宣布与全球领先的内容验证平台 GetReal Security 建立合作。

内容透明度仍是一项复杂挑战。为了继续为接触 AI 生成内容的人们提供信息并赋能，我们认为持续与 AI 社区合作并扩大透明度工具的获取范围至关重要。

作者感谢 Miguel de Andrés-Clavera 和 Google Partner Innovation 团队在开发 SynthID Detector 门户过程中提供的帮助。