全新網站 SynthID Detector 協助辨識 AI 生成內容

生成式 AI 的進步，讓人們能以全新的方式來創作內容，像是文字、高品質的音訊、圖像和影片等等。隨著這些技術的提升與普及，關於內容真實性、資訊的內容脈絡與驗證問題也逐漸浮現。

今天，我們正式推出「SynthID Detector」，一個協助使用者快速且有效辨識內容是否由 Google AI 工具所生成的驗證網站。這個網站提供偵測不同模態內容的能力，讓快速發展的生成式媒體內容辨識更加透明，也能標示出內容的哪些部分可能有 SynthID 浮水印。

當我們推出 SynthID 這款能嵌入不易察覺的浮水印，藉此辨識 AI 生成內容的工具時，我們的目標是提供一套創新的技術解決方案，協助降低不實資訊和誤用的情形。

SynthID 不僅能保存內容品質，它的浮水印設計也相當強韌，即便內容被分享或經過一系列的修改轉換處理，仍然可以被偵測出來。最初 SynthID 僅專注於 AI 生成的圖像，現在應用範圍將擴展至 AI 生成的文字、音訊和影片內容，包括由 Google Gemini、Imagen、Lyria 和 Veo 等模型所生成的內容。目前已有超過百億筆內容透過 SynthID 加上浮水印。

SynthID Detector 的運作方式

當你上傳使用 Google AI 工具所創作的圖像、音訊、影片或文字片段時，SynthID Detector 這個網站會掃描該媒體檔案，偵測上傳內容或其中的特定片段是否包含 SynthID 浮水印。如果偵測到 SynthID 浮水印，它會標示出內容中的哪些部分可能帶有浮水印。針對音訊內容，這個網站能精準標示出偵測到 SynthID 浮水印的特定片段；至於圖像，則會指出最有可能存在浮水印的區域。

我們將從今天開始向初期測試人員推出此功能，並於日後逐步擴大應用範圍。新聞工作者、媒體專業人士和研究人員可以加入我們的等候名單，以取得 SynthID Detector 的使用權限。

擴展 SynthID 生態系統

為了促進一個可信賴的生態系統發展，我們已經開源了 SynthID 的文字浮水印技術，任何開發者都可以運用並將此技術整合到自己的模型中。

今年稍早，我們也邁出了第一步，與業界夥伴共同打造生態系，以擴大 SynthID 技術的應用。我們與 NVIDIA 合作，為他們在 build.nvidia.com 上的 NVIDIA Cosmos™ 預覽版 NIM 微服務所生成的影片加入浮水印。這意味著網路上將有更多內容嵌入 SynthID 浮水印，而不僅限於 Google 生成的內容。

同時，讓其他合作夥伴也能偵測到內容是否帶有 SynthID 浮水印也十分重要。因此，今天我們也宣布與全球領先的內容驗證平台 GetReal Security 展開合作。如果你有意願探索運用 SynthID 的潛在合作機會，歡迎透過此表單與我們聯繫。

內容透明度依然是一項複雜的挑戰。為了持續向接觸 AI 生成內容的大眾提供資訊並賦予內容判斷能力，我們相信持續與 AI 社群合作並擴大透明度工具的普及至關重要。

作者特別感謝 Miguel de Andrés-Clavera 及 Google 合作夥伴創新團隊在開發 SynthID Detector 網站過程中提供的協助。