L’Intelligenza artificiale per proteggere la Ricerca Google

Ogni giorno, le persone si rivolgono a Google per capire come proteggere se stesse e le proprie famiglie. Che si tratti di mettere in risalto informazioni utili in caso di disastro naturale o informazioni sensibili in situazioni di emergenza sanitaria, ci impegniamo ad aiutarvi per trovare rapidamente le risposte a ciò di cui avete bisogno. I progressi dell'intelligenza artificiale possono fare in modo che le nuove tecnologie aiutino le persone a rimanere al sicuro.

Ecco come i nostri sistemi di intelligenza artificiale ci permettono di  di aiutare le persone in situazioni di emergenza, evitando allo stesso tempo contenuti potenzialmente sensibili o dannosi, così da farvi stare al sicuro, online e offline.

Informazioni affidabili e utili quando si ha più bisogno

Sappiamo che le persone utilizzano la Ricerca Google nei momenti che contano di più. Oggi, se cercate su Google informazioni su suicidio, violenza sessuale, abuso di sostanze e violenza domestica, vedrete le informazioni di contatto per il numero verde nazionali più pertinente insieme ai risultati più rilevanti e di qualità disponibili.

Ma le persone che attraversano un momento di crisi personale fanno ricerche imprevedibili, e non è sempre immediato il fatto che abbiano bisogno di aiuto. Se non riusciamo a riconoscerlo, non possiamo programmare i nostri sistemi per mostrare i risultati di ricerca più utili. Ecco perché l’applicazione del machine learning alla comprensione del linguaggio è così importante.

Utilizzando il nostro ultimo modello di intelligenza artificiale, MUM, possiamo rilevare automaticamente e con maggiore precisione una varietà più ampia di ricerche legate a momenti di crisi personale. MUM può comprendere meglio le motivazioni dietro le domande delle persone e rilevare quando una persona ha bisogno, il che ci aiuta a mostrare informazioni affidabili e fruibili in un dato momento. Inizieremo a utilizzare MUM per apportare questi miglioramenti nelle prossime settimane.

Evitare contenuti scioccanti inaspettati

Mantenervi al sicuro quando usate la Ricerca Google significa anche aiutarvi a evitare contenuti scioccanti che non state cercando. Può essere difficile, perché chi crea contenuti inappropriati a volte usa termini benevoli con riferimento a contenuti espliciti o allusivi. E i contenuti più diffusi, che corrispondono alla vostra ricerca, potrebbero non essere quelli che intendevate trovare. In questi casi, anche se le persone non cercano direttamente contenuti espliciti, questi ultimi possono apparire tra i risultati.

Un modo per affrontare questo problema è con la modalità SafeSearch, che offre alle persone la possibilità di filtrare i risultati espliciti. Questa impostazione è attiva per impostazione predefinita per gli account Google per i minori di 18 anni. E anche quando le persone scelgono di disattivare SafeSearch, i nostri sistemi riducono comunque i risultati indesiderati. Ogni giorno, infatti, i nostri algoritmi di sicurezza migliorano centinaia di milioni di ricerche in tutto il mondo che si tratti di web, immagini e video.

Ma c'è ancora spazio per migliorare. Per ridurre i risultati imprevisti, utilizziamo tecnologie di intelligenza artificiale avanzate come BERT per capire meglio cosa state cercando. Grazie a BERT riusciamo a capire meglio se  le ricerche sono mirate  a contenuti espliciti, aiutandoci a ridurre notevolmente le possibilità di incontrare risultati di ricerca inaspettati.

E’ una sfida complessa che affrontiamo da un po', ma solo nell'ultimo anno, i miglioramenti  di BERT hanno portato a una riduzione  del 30% dei risultati scioccanti inaspettati. È stato particolarmente efficace nel ridurre i contenuti espliciti per le ricerche relative a etnia, orientamento sessuale e genere.

Ridimensionare i nostri sistemi di protezione in tutto il mondo

MUM può trasferire la conoscenza attraverso le 75 lingue su cui è addestrato, il che può aiutarci a scalare le protezioni di sicurezza in tutto il mondo in modo molto più efficiente. Quando formiamo un modello, MUM a svolgere un determinato compito, come classificare la natura di una domanda, impara a farlo in tutte le lingue che conosce.

Ad esempio, utilizziamo l'intelligenza artificiale per ridurre le pagine di spam inutili e talvolta pericolose nei risultati di ricerca. Nei prossimi mesi utilizzeremo MUM per migliorare la qualità delle nostre protezioni anti spam e fare lo stesso in lingue per cui disponiamo pochissimi elementi su cui basare la formazione. Saremo anche in grado di identificare meglio le richieste legate a crisi personali in tutto il mondo, collaborando con partner di fiducia a livello locale per mostrare informazioni utili in molti altri paesi.

Come ogni passo avanti della Ricerca, questi cambiamenti sono stati e continueranno a essere sottoposti a una valutazione rigorosa, con il contributo dei nostri valutatori di ricerca in tutto il mondo per assicurarci di fornire risultati più pertinenti e utili. Qualunque cosa stiate cercando, ci impegniamo ad aiutarvi a trovarla in sicurezza.