Un aggiornamento sul nostro impegno nel combattere il contenuto estremista online
A Giugno abbiamo annunciato 4 misure per combattere il contenuto terroristico su YouTube:
- Migliore identificazione e rimozione in tempi più rapidi grazie al machine learning
- Un numero maggiore di partner esperti per aiutarci ad identificare contenuti in violazione
- Standard più rigidi per i video con contenuti controversi che non sono in violazione delle nostre norme
- Attività di counter-speech: amplificare le voci e i contenuti contro l’odio e l’estremismo.
In Agosto abbiamo condiviso i progressi fatti su questi fronti e oggi vi diamo un nuovo aggiornamento sugli ulteriori passi in avanti.
Migliore identificazione e rimozione in tempi più rapidi
Abbiamo sempre adottato una combinazione di attività di segnalazione e revisione effettuate dalle persone e utilizzo della tecnologia per affrontare il tema dei contenuti controversi su YouTube. Nel mese di giugno abbiamo introdotto il machine learning per segnalare contenuti di estremismo violento e scalarli per una revisione manuale. In quest’area continuiamo a fare progressi rapidamente:
- Più dell’83% dei video che abbiamo rimosso per estremismo violento nell’ultimo mese sono stati rimossi prima ancora di ricevere una sola segnalazione da una persona. Il dato è in crescita dell’8% rispetto ad Agosto.
- I nostri team hanno rivisto manualmente più di un milione di video per migliorare la tecnologia che effettua le segnalazioni, offrendo così un grande volume di esempi per formare i sistemi di machine learning.
Inevitabilmente, tanto gli esseri umani quanto le macchine commettono errori e dal momento che abbiamo aumentato il numero dei video rivisti dai nostri team, abbiamo commesso degli errori. Sappiamo che si può fare meglio e siamo impegnati nel garantire che i nostri team intervengano sui contenuti corretti. Stiamo lavorando su modi nuovi per educare coloro che condividono video con l'obiettivo di documentare o raccontare episodi di violenza affinché aggiungano nei loro video anche il contesto necessario.
Un maggior numero di esperti
Gli esperti esterni sono ancora essenziali per fornirci consigli sulle nostre norme e per segnalare contenuti ulteriori che permettono di formare al meglio i nostri sistemi. Le ONG nostre partner portano con sé un bagaglio di conoscenze approfondite su questioni complesse come i discorsi di incitamento all’odio, la radicalizzazione e il terrorismo.
Abbiamo aggiunto 35 ONG al nostro programma Trusted Flagger, raggiungendo così il 70% dell’obiettivo che ci siamo prefissati. Questi nuovi partner rappresentano 20 Paesi diversi e includono ONG come l’International Centre for the Study of Radicalisation and Political Violence del King's College di Londra e The Wahid Institute in Indonesia, che si dedica a promuovere libertà religiosa e tolleranza.
Standard più rigorosi
Abbiamo iniziato ad utilizzare un approccio più deciso nei confronti di quei video che non sono illegali e che per poco non violano le nostre linee guida, ma contengono un contenuto controverso di natura religiosa o suprematista. Questi video rimangono su YouTube, ma dietro ad una pagina di avviso, non vengono raccomandati né monetizzati e non dispongono di funzionalità chiave come i commenti, i video suggeriti e i like. Tutto questo sta funzionando come previsto e ci aiuta a trovare un equilibrio tra la libertà d’espressione, permettendo di tenere traccia di contenuti di pubblico interesse, limitandone al tempo stesso l’ampia diffusione o la possibilità di suggerire questi video ad altri.
Amplificare le voci contro l'odio e l'estremismo
Continuiamo a supportare programmi che contrastano i messaggi estremisti. Stiamo effettuando ricerche per espandere il Redirect Method di Jigsaw per applicare questo modello a nuove lingue e nuovi termini di ricerca. Stiamo investendo in maniera consistente nel nostro programma YouTube Creators for Change per supportare quei creator che utilizzano YouTube per affrontare problemi sociali, promuovendo consapevolezza verso questi temi, la tolleranza e l'empatia. Ogni mese questi creator pubblicano nuovi video e campagne per contrastare l'odio e la divisione sociale:
- A settembre, tre dei creator, provenienti rispettivamente da Australia, Regno Unito e Stati Uniti, hanno debuttato con i loro video sul grande schermo al Tribeca TV Festival, affrontando temi come il razzismo, la xenofobia e le esperienze degli immigrati di prima generazione.
- I creator di YouTube in Indonesia hanno collaborato con l'Istituto MAARIF e con Cameo Project, uno degli ambassador di YouTube Creators for Change, per visitare 10 diverse città e formare migliaia di studenti delle scuole superiori promuovendo la tolleranza e denunciando i discorsi di incitamento all’odio e l'estremismo.
- Stiamo aggiungendo, alla rete presente nel mondo, due nuovi chapter locali per i Creator for Change, in Israele e in Spagna.
In aggiunta a queste attività, per supportare le voci per contrastare l'odio e l'estremismo il mese scorso Google.org ha annunciato un fondo di innovazione di 5 milioni di dollari. Questo finanziamento supporterà soluzioni tecnologiche, nonché iniziative locali come progetti per i più giovani che aiutino a creare il senso di comunità e promuovere la resistenza alla radicalizzazione.
Il materiale estremista terroristico e violento non dovrebbe essere diffuso online. Continueremo a investire in modo significativo per combattere la diffusione di questo contenuto, fornire aggiornamenti ai governi e collaborare con altre aziende attraverso il Global Internet Forum to Counter Terrorism. C’è ancora molto da fare e non vediamo l'ora di condividere i prossimi progressi.
