検索における露骨な偽コンテンツへの対処

新しい技術が進歩するたび、利用者を支援する新しい機会が創出されますが、同時に対処しなければならない新しい形の不正利用も生まれます。近年、画像生成技術が進化しており、個人の露骨な性的行為を描写した画像や動画が、本人の同意なくウェブ上で配信されるケースが増加することが懸念されています。

こうした露骨な「ディープフェイク」とも呼ばれるコンテンツは、影響を受けた人に多大な苦痛を与えます。Google は、人々がそうしたコンテンツに対処できるよう、長年にわたりポリシーの策定とシステムへの投資を行っています。

本日、保護機能を強化するために、専門家や被害者からのフィードバックに基づいて開発された、いくつかの重要なアップデートを公開します。アップデートには、Google 検索からそうしたコンテンツを削除しやすくするプロセスの更新や検索結果の上位に表示されないようにするためのランキング システムの変更が含まれます。

コンテンツを削除しやすく

Google のポリシーに基づいて、同意のない偽の性的画像を Google 検索から削除するようリクエストすることができます。長年運用してきたこの手順をより簡単にするシステムを開発し、そうした問題により簡単に、そして広範囲に対処できるようになりました。

同意のない露骨な偽コンテンツを Google 検索から削除するようリクエストすると、Google のシステムはそのリクエストに関する類似検索の全ての露骨な結果をフィルタリングすることを目指します。さらに、Google のポリシーに基づいて画像が検索から削除されると、システムがその画像と重複する画像がないかスキャンし、見つかった場合には該当する画像も削除します。

これらの保護機能は、他の種類の同意のない画像への対処において、効果があることがすでに実証されており、露骨な偽画像に対しても同様の機能を導入します。この取り組みは、今後も同様のコンテンツが表示されることを懸念している人々に、安心感を提供することを目的としています。

ランキング システムの改善

日々、オンライン上で、大量のコンテンツが作られています。そのため、有害なコンテンツを防ぐ最善の方法は、高品質の情報を Google 検索の上位にランク付けするシステムを構築することです。Google では、コンテンツを報告して検索結果から削除するプロセスの改善に加えています。また、検索結果に露骨な偽コンテンツが表示されるリスクが高い検索キーワードに関するランキング システムの更新を行っています。

まず、多くの検索において、露骨なフェイク コンテンツの順位を下げるランキングの更新を行います。特にそのようなコンテンツかつ人名を含むキーワードに対しては、たとえば関連するニュース記事のように高品質かつ露骨でないコンテンツが存在する場合には、それらを代わりに表示することを目指します。今年行ったアップデートにより、そうした種類のキーワードで露骨な画像が結果に表示される回数が 70% 以上減少しています。これらの変更により、人々は実際に同意のない偽画像を含むページを閲覧することなく、ディープフェイクが社会に及ぼしている影響について知ることができます。

これとは別に、合意に基づく露骨なコンテンツ（俳優のヌードシーンなど）と露骨な偽コンテンツ（俳優が登場するディープフェイクなど）を区別する必要もあります。そうしたコンテンツの区別は検索エンジンの技術的なチャレンジですが、正規のコンテンツをより適切に表示し、露骨な偽コンテンツの順位を下げるために、Google は継続的な改善を行っています。

一般的に、ポリシーに基づいて Google 検索から削除されたページが特定のサイトに多数存在する場合、それはそのサイトが高品質ではないという強いシグナルとなります。そのため、露骨な偽画像が大量に削除されているサイトを降格させています。このアプローチは、他の種類の有害コンテンツに対してうまく機能しており、Google のテストでは、検索結果で露骨な偽コンテンツを減らす効果的な方法となることがわかっています。

本日ご紹介した変更は、検索の保護に関する重要な更新ですが、偽コンテンツの問題への対処にはさらなる取り組みが不可欠です。不適切なコンテンツの影響を受ける人々を支援するために、Google はこれからも新しいソリューションを開発していきます。また、この問題は検索エンジンだけにとどまるものではないことを踏まえ、Google は業界全体の協力と専門家の関与への投資を継続し、社会全体でこの課題に対処できるよう、今後も活動を継続していきます。