Maps 101: Come funzionano le recensioni di Google Maps

Quando esplorate nuovi luoghi, le recensioni su Google rappresentano una fonte di conoscenza locale che può indirizzarvi verso i posti e le attività che preferite. Che si tratti del fornaio con le migliori torte senza glutine o del ristorante vicino a casa che fa musica dal vivo. Con milioni di recensioni pubblicate ogni giorno dalle persone di tutto il mondo, il nostro team di assistenza lavora incessantemente per fare in modo che le informazioni su Google siano sempre pertinenti e precise. Poiché gran parte del nostro lavoro per impedire la pubblicazione di contenuti inappropriati avviene dietro le quinte, vogliamo condividere con voi alcuni dettagli su ciò che succede quando pubblicate una recensione. 

In che modo creiamo e applichiamo le nostre norme 

Abbiamo creato rigide norme relative ai contenuti per assicurarci che le recensioni siano basate su esperienze reali e per evitare la pubblicazione di commenti offensivi e non pertinenti sui Profili delle attività su Google. 
Le nostre norme e misure di protezione si evolvono di pari passo con i cambiamenti intorno a noi. In questo modo, possiamo impedire la pubblicazione di contenuti fuori tema o con spam per luoghi o attività che potrebbero essere soggetti a potenziali abusi. Ad esempio, quando i governi e le attività hanno iniziato a chiedere una prova del vaccino anti COVID-19 per consentire l'accesso in determinati luoghi, abbiamo adottato misure di protezione aggiuntive per rimuovere le recensioni Google che criticavano un'attività per le sue norme in materia di salute e sicurezza o per l'applicazione delle disposizioni relative all'obbligo vaccinale. 
Dopo aver redatto una norma, ne creiamo il materiale didattico corrispondente, sia per i nostri operatori che per gli algoritmi di machine learning, in modo da aiutare i nostri team a riconoscere i contenuti che violano le norme e in definitiva a mantenere le recensioni su Google utili e autentiche. 

Moderiamo le recensioni grazie al Machine Learning 

Non appena un utente pubblica una recensione, la inviamo al nostro sistema di moderazione per assicurarci che non violi nessuna delle nostre norme. Il nostro sistema di moderazione è come una guardia di sicurezza che impedisce alle persone non autorizzate di entrare in un edificio, con la differenza che il nostro team impedisce ai contenuti illeciti di essere pubblicati su Google. 
Dato il volume di recensioni che riceviamo regolarmente, ci siamo resi conto di aver bisogno sia del contributo umano - più attento alle sfumature di ogni contenuto - che di quello delle macchine - che invece riescono ad agire su grande scala - Hanno punti di forza diversi, quindi continuiamo a investire enormemente in entrambi. 
Il Machine Learning è la nostra prima linea di difesa poiché in grado di identificare determinati schemi. Spesso, questi schemi consentono loro di determinare immediatamente se i contenuti sono legittimi in modo da rimuovere la grande maggioranza di contenuti falsi e fraudolenti prima che qualcuno li veda. 
Le nostre macchine analizzano le recensioni da diverse angolazioni, ad esempio: 
Insegnare a una macchina a riconoscere la differenza tra i contenuti accettabili e quelli che violano le norme è un'operazione delicata. Ad esempio, a volte il termine "gay" viene usato in senso dispregiativo e questo non è tollerato nelle recensioni su Google. Tuttavia, se insegniamo ai nostri modelli di machine learning che questo termine viene usato solo in contenuti di incitamento all'odio, potremmo rimuovere erroneamente delle recensioni che promuovono un’attività gay-friendly o uno spazio rispettoso della comunità LGBTQIA+. I nostri operatori umani eseguono frequenti test sulla qualità e seguono corsi formativi aggiuntivi per rimuovere i bias dai modelli di machine learning. Addestrando accuratamente i nostri modelli riguardo a tutti i modi in cui determinate parole o frasi vengono usate, miglioriamo la nostra capacità di riconoscere i contenuti che violano le norme e riduciamo la possibilità di bloccare inavvertitamente la pubblicazione di recensioni legittime. 
Se i nostri sistemi non rilevano violazioni delle norme, la recensione può essere pubblicata in pochi secondi, ma il nostro lavoro non si ferma lì. I nostri sistemi continuano ad analizzare i contenuti pubblicati e cercano schemi discutibili. Questi schemi possono essere di qualsiasi tipo, da un gruppo di persone che lascia recensioni sulla stessa serie di profili delle attività fino a un luogo o un'attività che riceve un numero insolitamente elevato di recensioni con 1 o 5 stelle in un breve periodo di tempo. 

• I contenuti della recensione: si tratta di contenuti offensivi o fuori tema? 
• L'account che ha lasciato la recensione: in passato sono già stati riscontrati comportamenti sospetti di questo Account Google? 
• Il luogo in questione: sono stati registrati comportamenti insoliti, ad esempio abbondanza di recensioni in un breve periodo di tempo, per questo luogo o questa attività? Di recente, ha ricevuto attenzioni nei canali di notizie o sui social media che potrebbero indurre le persone a lasciare recensioni fraudolente? 

Il nostro impegno per mantenere le recensioni autentiche e affidabili 

Come in qualsiasi piattaforma che ospita contributi generati dagli utenti, dobbiamo sempre impegnarci attentamente per impedire la pubblicazione di contenuti fraudolenti e illeciti su Maps. Parte di questo lavoro è semplificare l'utilizzo di Google Maps per consentire alle persone di segnalare recensioni che violano le norme. Se ritenete che una recensione su Google violi le norme, vi incoraggiamo a segnalarla al nostro team, a questo link per le imprese e a questo link per gli utenti. 

Il nostro team di operatori umani lavora costantemente per rivedere i contenuti segnalati. Quando troviamo recensioni che violano le nostre norme, le rimuoviamo da Google e, in alcuni casi, sospendiamo l'account utente o addirittura avviamo una controversia.
Oltre a esaminare i contenuti segnalati, il nostro team lavora per identificare potenziali rischi di abusi, il che può ridurre notevolmente la probabilità di successo di attacchi di questo tipo. Ad esempio, nel caso di un evento imminente con un seguito significativo come le elezioni, effettuiamo controlli e applichiamo le misure di protezione in modo proattivo per i luoghi associati all'evento e altre attività nelle vicinanze che le persone potrebbero cercare su Maps. Continuiamo a monitorare questi luoghi e attività finché il rischio di abuso non è cessato, nell'ambito del nostro obiettivo di pubblicare solo recensioni autentiche e affidabili. Il nostro investimento nell'analisi e nella comprensione dei modi in cui il contenuto fornito può essere abusato è stato fondamentale per tenerci un passo avanti ai malintenzionati. 
Con oltre un miliardo di persone che utilizzano Google Maps ogni mese per navigare ed esplorare, vogliamo assicurarci che le informazioni che vedono, soprattutto le recensioni, siano affidabile per tutti. Il nostro lavoro non ha mai fine: ci impegniamo continuamente e duramente per migliorare i nostri sistemi e impedire abusi, tra cui la pubblicazione di recensioni finte, sulle mappe. 
  Scritto da: Ian Leader Product Lead, User Generated Content