メインページに戻る
Japan Blog

セーフティ & セキュリティ

より安全なインターネットのために



私は、昨年 Google の一員となり、現在、Trust & Safety チームを統括しています。聞き慣れない部署名ですが、Gmail から Google マップまでの様々な製品において、ユーザー保護や安全性の向上を目指しています。

私たちのプラットフォーム上で、表現の自由を尊重しながら、どのようなコンテンツを許容するかを決めるのは、大きな責任を伴う作業であり、決して容易なものではありません。議論が分かれるようなコンテンツも含めて一貫した対応を可能にする規則を定め、適切なバランスで多様な視点を尊重し、蔑ろにされる声に発言の場を提供するだけでなく、プラットフォームが悪質なコンテンツに対処できるよう、考え抜かれたポリシーを策定することに他なりません。そして、多くの場合、先に述べたような事案に関連する価値観は緊張状態の中にあり、時として私たちが下す判断が批判や議論の的となることもあるでしょう。私たちは、果たさねばならないその責任の重さと影響力を、強くしっかりと認識しています。

Trust & Safety チームは、親戚が誘拐されたので送金してほしいといった詐欺から、ネット上にアップロードされた児童の性的虐待コンテンツといった醜悪なものまで、広範なオンライン上の悪質な行為に対応しています。 そして、Google の製品においては、ウェブ上の情報とユーザーをつなぐような「検索」から、「 Google フォト」のようなデータ ホスティングの要素を含むものまで、多岐に渡る製品がその対応の範疇に含まれています。そして、業務の遂行及びポリシーの策定において、この製品毎に異なる "変数” を理解することは、極めて重要な要素であるといっても過言ではありません。そのために、Trust & Safety チームには、製品スペシャリスト、エンジニア、弁護士、データ サイエンティスト、元法務執行官の経歴を持つような多様なバックグランドや知見を持つメンバーが在籍しており、日々、世界中のオンライン セーフティの専門家ネットワークや領域毎の専門家たちと協力しながら、インターネットの安全性向上に尽力しています。

Trust & Safety チームは、業務における正確さと大規模なオペレーションを可能にするという 2 点を目標に掲げています。そのために、「人」と「技術」が連携して業務に当たっており、そのどちらに対しても投資を惜しみません。私たちは、Google のプラットフォーム上にある問題のあるコンテンツの検出にスマート テクノロジーを活用しています。その活用頻度は増加しており、成果も上がっています。たとえば、ネット上の暴力的過激主義に関するコンテンツは、以前はユーザーからの報告に依存する形でこうしたコンテンツを特定していましたが、最近では Google のサービスから削除するコンテンツのほとんどは、まず機械により特定されています。特定されたコンテンツは、言語やその分野の専門家によって迅速かつ正確にレビューされた後、削除されます。また、NGO、他の IT 企業、そして欧州刑事警察機構といった政府のインターネット照会担当部門(Internet Referral Units)と協力するシステムを構築し、これらの機関が Google に対し問題がある可能性を孕むコンテンツをいち早く知らせられるようにしました。

それ以外の、例えばヘイトスピーチのような問題に対処するには、全く別のアプローチが必要です。私たちは、欧州委員会が掲げるヘイトスピーチに関する行動指針に準拠し、ネット上の憎悪を煽るコンテンツへの対処において、確固たる成果を上げていることを誇りに思っています。EU 圏内においては、各言語圏の状況を熟知している専門家で構成した専任チームを発足し、コンテンツ確認のスピードと正確性の改善に取組みました。しかしながら、すべての課題が解決したわけではありません。何がヘイト スピーチと見なされるかは国によって異なり、使われる言葉やスラングもまた然りです。自動検出の技術を用いて成果を上げるためには時間がかかりますが、私たちは、常にベストな人材と技術を持って、引き続きこの問題に立ち向かって行きます。

成果の一部をご紹介しましょう。2017 年の一年間に、ポリシーに違反した広告を 32 億件削除したほか、ユーザーを騙してマルウェアを含むサイトへ誘導する広告も 7,900 万件ブロックしました。 2018 年 7 月~ 9 月の 3 ヶ月間には、ポリシーに違反した YouTube の動画 700 万件、コメントを 2 億 2,400 万件削除しました。Google ドライブ、Google フォト、Blogger といった他の様々なサービスにおいても、去年だけで 3 万 8,000 件のヘイトスピーチと 16 万件の暴力的過激性が示唆されるコンテンツを削除しました。さらに、検索結果から露骨な表現のコンテンツを避けるのに役立つセーフサーチなどのツールにも対応しています。

しかしながら、インターネットの安全を守るという仕事は、これまでに述べたような政府機関や専門家、IT 企業、NGO といったパートナーの皆さんの協力なくしては成り立ちません。そして、ポリシーも、周囲の声に耳を傾け、専門家の意見と取り入れながら、常に変化し続けていかねばなりません。今後も、Google は改善できることについて、さらに透明性を高め、説明責任を果たし、そして、率直な姿勢で臨みます。今後、さらに多くの課題に直面するでしょう。私たちはそれに対し、持てるすべての資源を投入し、Google がすべきことを全うします。技術と人の力であらゆる手を尽くし、オンライン上の様々な試練を乗り越え、インターネットの安全のために、尽力して参ります。

編集者注記:クリスティ カネガロ は米国政府職員として勤務した経験を持ち、ブッシュ元大統領とオバマ元大統領の下でさまざまな国家安全保障・国内政策に関わる職務を担当。オバマ元大統領の下ではその首席補佐官代理を務めました。