Il nostro approccio all'innovazione responsabile dell'IA
L'IA generativa ha tutte le carte in regola per sbloccare il potenziale creativo su YouTube, trasformando radicalmente l'esperienza sulla piattaforma tanto per gli spettatori quanto per i creator. È importante, tuttavia, che queste opportunità siano controbilanciate dalla nostra responsabilità di proteggere la community di YouTube. Anche se tutti i contenuti caricati su YouTube devono rispettare le Norme della community - e questo in qualunque modo siano stati creati - non si può ignorare che l'IA porrà dei rischi inediti. Rischi che, come tali, richiederanno approcci altrettanto inediti.
YouTube ha già mosso i primi passi in tal senso e continueremo a perfezionare gradualmente il nostro approccio alle luce delle nuove conoscenze acquisite. Ecco una panoramica delle novità che introdurremo nei prossimi mesi e durante il nuovo anno.
Requisiti relativi alle informative e nuove etichette contenuti
Siamo convinti che sia nell'interesse di tutti mantenere un ecosistema di informazioni sano su YouTube. Disponiamo di norme consolidate che proibiscono contenuti manipolati tecnicamente che ingannano gli spettatori e che pongono un elevato rischio di danni gravi. Tuttavia, le nuove forme di storytelling generate dall’IA possono essere impiegate per creare contenuti potenzialmente fuorvianti per gli spettatori, soprattutto se questi ultimi non sono consapevoli di guardare un video che è stato manipolato o generato artificialmente.
Per affrontare questo problema, nei prossimi mesi introdurremo degli aggiornamenti volti a informare gli spettatori ogni volta che visualizzano contenuti generati artificialmente. Nello specifico, i creator avranno l'obbligo di dichiarare i casi in cui hanno utilizzato strumenti IA o di altro tipo per creare contenuti sintetici o manipolati che sembrano realistici. Ad esempio un video creato con l'IA con una rappresentazione realistica di un evento mai accaduto oppure contenuti in cui si mostra una persona mentre dice o fa qualcosa che non ha realmente detto o fatto.
Questo requisito è particolarmente importante per i contenuti che riguardano argomenti di natura sensibile, ad esempio elezioni, conflitti ed emergenze di sanità pubblica in corso o nel caso di funzionari pubblici. Qualora omettano ripetutamente di fornire queste informazioni, i creator rischiano di incorrere in sanzioni, tra cui la rimozione dei contenuti, la sospensione dal Programma partner di YouTube o altre conseguenze. Prima di introdurre questo aggiornamento, lavoreremo con i creator per facilitare l’apprendimento di questi nuovi requisiti .
Gli spettatori saranno informati in due modi della possibilità che i contenuti siano alterati o manipolati artificialmente. Nella descrizione verrà aggiunto un nuovo riquadro con l'avvertimento che alcuni dei contenuti sono stati modificati o generati digitalmente. Inoltre, per alcune tipologie di contenuti dedicati ad argomenti sensibili, applicheremo un'etichetta più evidente nel video player.
Di per sé, tuttavia, un'etichetta potrebbe non essere sufficiente a prevenire conseguenze dannose in alcuni contesti. Pertanto, anche se debitamente muniti di etichetta, alcuni contenuti sintetici verranno rimossi dalla piattaforma nel caso in cui violino le Norme della community. Ad esempio, potremmo comunque rimuovere un video creato sinteticamente che mostra atti violenti realistici se lo scopo è quello di sconvolgere o disgustare gli spettatori.
In futuro, a mano a mano che questi aggiornamenti verranno rilasciati, i contenuti creati con i prodotti e le funzionalità di IA generativa di YouTube verranno chiaramente contrassegnati come tali.
Nuove opzioni per creator, spettatori e artisti
Nei loro feedback, i membri della nostra community, tra cui creator, spettatori e artisti, ci hanno segnalato a più riprese i vari modi in cui le tecnologie emergenti potrebbero danneggiarli. Un caso eclatante è il rischio che il volto o la voce di una persona vengano riprodotti digitalmente senza il consenso di tale persona o in modo da distorcere le sue opinioni.
Ecco perché, nei prossimi mesi, introdurremo la possibilità di richiedere la rimozione di contenuti creati con l'IA o di altri contenuti creati artificialmente o manipolati che simulano l'identità di una persona riconoscibile, ad esempio riproducendone il volto o la voce. Sarà possibile farlo utilizzando la procedura di reclamo per violazione della privacy. Non sempre i contenuti in questione verranno rimossi da YouTube.
Nel valutare le richieste ricevute prenderemo in esame svariati fattori, ad esempio se si tratta di contenuti con intenti parodistici o satirici, se è possibile identificare in maniera univoca la persona richiedente oppure se i contenuti mostrano un funzionario pubblico o un personaggio famoso, nel qual caso potremmo applicare criteri più restrittivi.
Inoltre, permetteremo anche ai nostri partner musicali di richiedere la rimozione di contenuti musicali creati con l'IA nel caso in cui imitino la voce che contraddistingue in maniera univoca un cantante o rapper. Per decidere se dare seguito a una richiesta di rimozione, valuteremo vari fattori, tra cui ad esempio se i contenuti rientrano nel contesto di servizi giornalistici, recensioni o analisi delle parti vocali sintetiche. Queste richieste di rimozione saranno accessibili alle case discografiche e ai distributori che rappresentano gli artisti partecipanti ai primi esperimenti musicali con l'IA condotti da YouTube. L'accesso verrà poi esteso a ulteriori case discografiche e distributori nei mesi successivi.
Tecnologia IA al servizio della moderazione dei contenuti
Da sempre YouTube fa ricorso a una combinazione di persone e tecnologie di machine learning per applicare le Norme della community. In tutto il mondo, sono oltre 20.000 i revisori attivi nei vari servizi Google. Nei nostri sistemi, i classificatori basati sull'IA contribuiscono a rilevare su vasta scala i contenuti potenzialmente in violazione, mentre ai revisori spetta il compito di confermare se i casi segnalati rappresentino effettivamente delle violazioni. Grazie all'IA, sia la velocità che l'accuratezza dei nostri sistemi di moderazione dei contenuti continuano a migliorare.
Un'area in cui abbiamo ottenuto risultati notevoli è stata l'identificazione delle nuove forme di comportamento illecito. Quando emergono nuove minacce, i nostri sistemi non dispongono ancora di contesto sufficiente per comprenderle e identificarle su vasta scala. L'IA generativa, però, ci consente di ampliare velocemente il volume di informazioni con cui addestrare i classificatori basati sull'IA e, di conseguenza, di imparare a identificare e intercettare questi contenuti in tempi molto più rapidi. La migliore velocità e accuratezza dei sistemi ci consente inoltre di esporre i nostri revisori a una minore quantità di contenuti dannosi.
Responsabilità integrata nei nostri strumenti e funzionalità basati sull'IA
Nel portare avanti lo sviluppo di nuovi strumenti per creator basati sull'IA, il nostro approccio è analogo a quello con cui abbiamo affrontato le nostre più grandi sfide riguardanti la responsabilità: non ci interessa arrivare primi a ogni costo, ma intendiamo prenderci il tempo che serve per fare le scelte più giuste.
Stiamo valutando con la massima attenzione come mettere a frutto nel migliore dei modi possibili anni di investimenti in team e tecnologie in grado di moderare i contenuti nella scala che contraddistingue la nostra piattaforma. Ciò include continui e ingenti sforzi nello sviluppo di misure di salvaguardia che impediscano agli strumenti IA di creare contenuti non appropriati per YouTube.
Riconosciamo anche che i malintenzionati cercheranno inevitabilmente di aggirare questi guardrail. Faremo tesoro dei feedback degli utenti e delle conoscenze apprese per migliorare costantemente le nostre misure di protezione. E all’interno della nostra azienda, team dedicati - come il nostro intelligence desk - si concentrano specificamente sull’adversarial testing e sul rilevamento delle minacce per garantire che i nostri sistemi siano all'altezza delle nuove sfide man mano che si presentano.
Le rivoluzione dell'IA è dietro l'angolo
Il viaggio intrapreso per liberare il pieno potenziale trasformativo dell'IA generativa e aprire la strada a nuove forme di innovazione e creatività su YouTube è appena agli inizi. Le direzioni che prenderà faranno sentire con forza i loro effetti in tutti i settori creativi negli anni a venire.
Stiamo procedendo un passo alla volta per sbloccare nuove forme di innovazione e creatività su YouTube con l’IA generativa. Siamo estremamente entusiasti del potenziale di questa tecnologia e sappiamo che ciò che verrà dopo avrà importanti ricadute sui settori creativi negli anni a venire. Ci stiamo prendendo il tempo per fare in modo che questi benefici vadano di pari passo con la garanzia della continua sicurezza della nostra community in questo momento cruciale. E lavoreremo fianco a fianco con creator, artisti e altri protagonisti dell’industria creativa per costruire un futuro che sia proficuo per tutti.
