コンテンツの作成や編集履歴をわかりやすくするために
ジェネレーティブ メディアが進化し、誰もが手軽に利用できるようになるにつれて、「そのコンテンツがどこから来たのか」や「改ざんされていないか」などを知ることは非常に重要になっています。皆様の誰もがインターネットで見かけた画像や動画が、本当に本物かどうか気になったことがあるかと思います。
そこで 本日 、私たちは Google 検索 、 Gemini 、 Chrome 、 Pixel 、および Google Cloud におけるコンテンツの透明性と検証のためのツールを拡張し、業界全体とのパートナーシップをさらに深める新たな取り組みを発表しました。
最先端テクノロジーの規模を拡大
3 年前 、私たちは AI 生成コンテンツに人間の目や耳には感知できない信号を埋め込む、業界を推進するデジタルウォーターマーク(電子透かし)技術である SynthID を導入しました。 それ以来 、私たちは SynthID を当社のジェネレーティブ メディア モデルや製品に統合し、これまでに 1,000 億以上の画像や動画、そして 6 万年分に相当する音声にウォーターマークを埋め込み、コンテンツの保護を行ってきました。
また、拡大するジェネレーティブ メディア ツールの多くで、 AI の使用の有無にかかわらず、メディアがどのように作成・変更されたかを示す業界標準規格である C2PA Content Credentials を採用しています。 Pixel 10 は、標準のカメラアプリで画像に対してこのコンテント クレデンシャルを提供した最初のスマートフォンですが、 今後数週間以内 に、この技術を Pixel 8 、 Pixel 9 、および Pixel 10 のスマートフォンでの動画撮影にも拡張する予定です。
撮影の瞬間にこの技術を適用することで、 Pixel はコンテンツがいつカメラによって撮影されたかをしっかりと記録します。ジェネレーティブ メディアの時代において、ファイルがいつ AI を使って作成・編集されたかを知るのと同じくらい、編集されていないオリジナルのコンテンツ(本物の写真や動画)を識別することは非常に大切であると、私たちは考えています。
コンテンツを検証するための多様なアプローチ
私たちの目標は、皆さんがオンラインで目にするコンテンツについて、より手軽に背景情報を確認できるようにすることです。そのため、 先日 、画像、動画、音声の SynthID 検証機能を Gemini アプリ に追加しました。この機能はすでに 世界中 で 5,000 万回以上利用されており、 本日 からこの検証機能を Google 検索 に、さらに 今後数週間以内 に Chrome へと拡張します。
画像の由来を調べたいときは、Google レンズ や AI モード、 かこって検索、あるいは Chrome 内で Gemini などの検索機能を使用して「これは AI で作られたもの?」や「これは AI 生成画像?」と質問してください。
さらに、 C2PA Content Credentials の検証機能も追加し、コンテンツがカメラで撮影されたままの未編集のオリジナルなのか、あるいは何らかのツールで変更が加えられているのかを簡単にチェックできるようにします。この機能は、 Gemini アプリ にて 本日より 順次提供開始され、 今後数か月以内 に Google 検索 や Chrome にも導入される予定です。これは、 AI 生成コンテンツを識別する YouTube のラベル機能や、検出ツールをより高速かつ信頼性の高いものにするために Trusted Tester と協力して進めている Backstory プロジェクトなどの取り組みをベースに構築されています。
業界全体とのパートナーシップ
デジタルメディアは多くのプラットフォームをまたいで流通するため、業界全体でのパートナーシップと、相互運用が可能な堅牢なツールの普及が不可欠です。 OpenAI 、 Kakao、 ElevenLabs といった企業が、自社の AI 生成コンテンツに SynthID テクノロジーの導入を進めているため、 まもなく ウェブ上のより多くのコンテンツに、これらの目に見えないウォーターマークが埋め込まれるようになります。これは、私たちがこれまで進めてきた、テキスト向けの SynthID ウォーターマーク技術のオープンソース化や、 NVIDIA と協力してNVIDIA Cosmos 世界基盤モデルから生成される AI 動画にウォーターマークを埋め込むといった、コンテンツの由来を明確にするための継続的な取り組みの上に成り立っています。
より多くの組織や企業が AI 生成メディアを識別できるよう、私たちは Google Cloud の Gemini Enterprise Agent Platform 上で、新しい AI コンテンツ検出 API を提供します。これにより、企業は Google のモデルだけでなく、他の主要なモデルによって作成された AI コンテンツも強力に検出できるようになります。その結果、フィードの並べ替えや保険詐欺の防止といった管理・運用業務から、ファクトチェック(事実検証)や人工メディアへのラベル付けといったユーザー向けのコンテンツ管理にいたるまで、自社のプラットフォーム上でのメディアの評価や管理方法を柔軟に決定できるようになります。まずは一部の 信頼できるパートナー を対象に提供を開始し、寄せられるフィードバックをもとに、この API を継続的に改善していきます。
また、私たちは C2PA 運営委員会のメンバーとして、コンテンツの由来(プロベナンス)技術に関する国際標準規格の策定を引き続き推進しています。これにより、当社のデバイスに組み込まれた透明性ツールが、皆さんが毎日使うさまざまなプラットフォーム上でシームレスに機能するようになります。例えば、同じく C2PA 運営委員会のメンバーである Meta は、 Instagram でカメラ撮影されたメディアへのコンテント クレデンシャルのラベル付けを 近日中 に開始する予定です。これにより、 Pixel スマートフォンで撮影されたオリジナルの写真や動画を Instagram で共有した際、 まもなく それらが本物として自動的に認識され、適切なラベルが表示されるようになります。
私たちは長年にわたり、皆さんがオンラインで見つける情報に対して、役立つ背景情報(コンテキスト)を提供するための投資を続けてきました。コンテンツの透明性を確保することは非常に複雑な挑戦ですが、私たちはこれからもテクノロジーを前進させ、業界全体のスタンダードを高く引き上げるための開発を続けてまいります。インターネットで出会うあらゆるコンテンツの歴史や由来を、皆さんがご自身の力で簡単に確認できるよう、これからも必要なツールをお届けしてまいります。