Comment nous utilisons l'IA pour lutter contre les arnaques

Depuis plus d'une décennie, Google utilise les avancées en matière d'IA pour vous protéger contre les arnaques en ligne, où des acteurs malveillants trompent les utilisateurs afin d'accéder à de l'argent, à des informations personnelles, ou aux deux. Aujourd'hui, nous publions un nouveau rapport sur la manière dont nous luttons contre les arnaques dans Google Recherche, et nous partageons les nouvelles façons dont nous utilisons l'IA pour assurer votre sécurité sur Recherche, Chrome et Android.

Arrêter les arnaques dans la Recherche grâce à des défenses alimentées par l'IA

Dans Google Recherche, l'IA nous aide à détecter et à bloquer des centaines de millions de résultats frauduleux chaque jour. Notre rapport sur la lutte contre les arnaques sur Recherche montre comment les investissements que nous avons réalisés dans nos systèmes de détection d'arnaques alimentés par l'IA, ainsi que les améliorations apportées à nos classifieurs, nous ont permis d'intercepter 20 fois plus de pages frauduleuses. Ces améliorations contribuent à garantir que les résultats que vous obtenez sont légitimes et vous protègent des sites malveillants qui tentent de voler vos données sensibles.

Les avancées en matière d'IA ont renforcé nos technologies de lutte contre les arnaques, nous permettant d'analyser de vastes quantités de texte sur le Web, d'identifier des campagnes d'arnaques coordonnées et de détecter les menaces émergentes, gardant ainsi une longueur d'avance pour assurer votre sécurité sur Recherche. Par exemple, nous avons observé une augmentation significative d'acteurs malveillants sur le Web, usurpant l'identité de services à la clientèle de compagnies aériennes et arnaquant des personnes ayant besoin de soutien. Nous avons déjà réduit ces arnaques de plus de 80 % sur Recherche, réduisant considérablement le risque que vous appeliez un numéro de téléphone frauduleux.

Suralimenter la Navigation sécurisée dans Chrome avec Gemini Nano

Le mode Protection renforcée de la Navigation Sécurisée sur Chrome représente le plus haut niveau de protection offert par notre navigateur. Il protège deux fois mieux les utilisateurs contre l’hameçonnage et les autres arnaques par rapport à notre mode Protection standard.

Nous utilisons désormais Gemini Nano, notre grand modèle de langage (LLM) pour les ordinateurs de bureau, pour offrir aux utilisateurs de la Protection renforcée, ce qui permet d’avoir une couche de défense supplémentaire contre les arnaques en ligne. L'approche embarquée (on-device) fournit des informations instantanées sur les sites Web à risque et nous permet d'offrir une protection, même contre des arnaques inédites. Le LLM Gemini Nano est parfait pour ceci, grâce à sa capacité d’analyser la nature variée et complexe des sites Web, nous aidant à nous adapter plus rapidement aux nouvelles tactiques d'arnaque.

Nous utilisons déjà cette nouvelle approche alimentée par l'IA pour protéger les utilisateurs contre les arnaques personnifiant un support technique à distance, l'une des plus grandes menaces en ligne actuelles pour les utilisateurs. Notre objectif est d'étendre cette protection aux appareils Android et à encore plus de types d'arnaques à l'avenir.

Lutter contre les arnaques, le spam et les notifications indésirables

Parfois, le risque lié aux sites frauduleux peut s'étendre au-delà du site lui-même. Si vous avez activé les notifications de sites Web, les sites malveillants peuvent tenter de vous arnaquer avec un déluge de notifications. Pour vous aider à vous protéger contre les notifications malveillantes, spam ou trompeuses, nous lançons de nouveaux avertissements alimentés par l'IA pour Chrome sur Android.

Lorsque le modèle d'apprentissage automatique embarqué (on-device) de Chrome signale une notification, vous recevrez un avertissement avec la possibilité de vous désabonner ou de voir le contenu qui a été bloqué. Et si vous estimez que l'avertissement a été affiché par erreur, vous pouvez choisir d'autoriser les futures notifications de ce site Web.

Nous vous protégeons contre les arnaques sophistiquées par appel et par message

Les arnaques commencent souvent par des appels téléphoniques et des messages textes qui paraissent inoffensifs au premier abord, mais qui évoluent ensuite vers des situations dangereuses. Nous avons récemment lancé la détection d'arnaques dans Google Messages et Téléphone Google alimentée par l’IA, pour protéger les utilisateurs Android contre ce type d'arnaques sophistiquées.

Personne n'aime se faire avoir, mais l'histoire nous démontre que les arnaqueurs font constamment évoluer leurs tactiques et qu'il est peu probable qu'ils abandonnent de sitôt. C'est pourquoi nous nous engageons à leur rendre la tâche aussi difficile que possible en utilisant les dernières avancées de Google en matière d'IA pour rehausser le niveau de sécurité de l'ensemble de nos produits.