Notre approche de l'innovation responsable en matière d'IA

L'IA générative offre la possibilité de libérer la créativité sur YouTube et de transformer l'expérience des spectateurs et des créateurs sur notre plateforme. Mais il est tout aussi important de trouver un équilibre entre ces possibilités et notre responsabilité en matière de protection de la communauté YouTube. Tous les contenus téléversés sur YouTube sont assujettis à notre règlement de la communauté, quelle que soit la manière dont ils sont générés, mais nous savons également que l'IA présente de nouveaux risques et nécessite de nouvelles approches.

Nous n'en sommes qu'aux premières phases de notre travail et nous continuerons à faire évoluer notre approche au fur et à mesure de notre apprentissage. Voici un aperçu de ce que YouTube va déployer au cours des prochains mois et de la nouvelle année.

Exigences relatives aux divulgations et nouvelles étiquettes de contenu

Nous pensons qu'il est dans l'intérêt de tous de maintenir un écosystème d'informations sain sur YouTube. Nous appliquons depuis longtemps des règles interdisant les contenus manipulés techniquement qui induisent les spectateurs en erreur et peuvent présenter un risque sérieux de préjudice grave. Cependant, les nouvelles formes puissantes de narration de l'IA peuvent également être utilisées pour générer du contenu susceptible d'induire les spectateurs en erreur, en particulier s'ils ne savent pas que la vidéo a été modifiée ou créée de manière synthétique.

Pour répondre à cette inquiétude, nous proposerons au cours des prochains mois des mises à jour qui informeront les spectateurs lorsque le contenu qu'ils voient est synthétique. Plus précisément, nous exigerons des créateurs qu'ils divulguent les cas dans lesquels ils ont créé des contenus manipulés ou synthétiques qui sont réalistes, y compris en utilisant des outils d'IA. Lorsque les créateurs téléchargeront du contenu, ils pourront sélectionner de nouvelles options pour indiquer qu'il contient des matériaux réalistes modifiés ou synthétiques.Il peut s'agir, par exemple, d'une vidéo générée par IA qui décrit de manière réaliste un événement qui n'a jamais eu lieu, ou d'un contenu montrant quelqu'un en train de dire ou de faire quelque chose qu'il n'a pas réellement dit ou fait.

Cela est particulièrement important lorsque le contenu aborde des sujets sensibles, tels que des élections, des conflits en cours, des crises de santé publique ou des fonctionnaires. Les créateurs qui choisissent systématiquement de ne pas divulguer ces informations s'exposent à la suppression de leur contenu, à la suspension du programme de partenariat de YouTube ou à d'autres sanctions. Nous travaillerons avec les créateurs avant la mise en œuvre de cette mesure afin de nous assurer qu'ils comprennent ces nouvelles exigences.

Nous informerons les spectateurs que le contenu peut être modifié ou synthétisé de deux manières. Une nouvelle étiquette sera ajoutée au panneau de description, indiquant qu'une partie du contenu a été modifiée ou synthétisée. De plus, pour certains types de contenus en lien avec des sujets sensibles, nous appliquerons une étiquette plus visible au lecteur vidéo.

Dans certains domaines, l'étiquette peut ne pas suffire à réduire le risque de préjudice. Certains contenus multimédias synthétiques, qu'ils soient ou non étiquetés, seront retirés de notre plateforme s'ils enfreignent notre règlement de la communauté. Par exemple, une vidéo créée synthétiquement et présentant une violence réaliste peut être retirée si son objectif est de choquer ou de dégoûter les spectateurs.

Par ailleurs, au fur et à mesure du déploiement de ces nouvelles mises à jour, le contenu créé par les produits et les fonctionnalités d'IA générative de YouTube seront clairement étiquetés comme modifiés ou synthétiques.

Nouvelles options pour les créateurs, les spectateurs et les artistes

Nous avons reçu des commentaires réguliers de notre communauté, y compris des créateurs, des spectateurs et des artistes, sur la manière dont les technologies émergentes pourraient avoir une incidence sur eux. Cela est particulièrement vrai dans les cas où le visage ou la voix d'une personne pourrait être généré numériquement sans son autorisation ou présenter son point de vue de manière trompeuse.

Ainsi, dans les prochains mois, nous rendrons possible la demande de retrait des contenus générés par IA ou d'autres contenus synthétiques ou modifiés qui simulent une personne identifiable, y compris son visage ou sa voix, grâce à notre processus de demande liée à la confidentialité . Nous ne retirerons pas tous ces contenus de YouTube et nous tiendrons compte de différents facteurs lors de l'évaluation de ces demandes. Cela peut inclure le fait de savoir si le contenu est une parodie ou une satire, si la personne à l'origine de la demande peut être reconnue de manière individuelle ou si le contenu met en scène un fonctionnaire ou une personne connue, auquel cas les critères peuvent être plus stricts.

Nous offrons également la possibilité à nos partenaires musicaux de demander le retrait des contenus musicaux générés par IA qui imitent la voix unique d'un chanteur ou d'un rappeur. Pour déterminer s'il convient d'accepter une demande de retrait, nous prendrons en compte des facteurs comme le fait que le contenu soit un reportage d'actualité, une analyse ou une critique des voix synthétiques. Ces demandes de suppression seront accessibles aux maisons de disques ou aux distributeurs qui représentent des artistes participant aux premiers tests de YouTube en matière de musique générée par IA. Nous continuerons à élargir l'accès à d'autres maisons de disques et distributeurs au cours des prochains mois.

Déployer la technologie de l'IA pour renforcer la modération de contenu

YouTube a toujours utilisé une combinaison de personnes et de technologies d'apprentissage automatique pour appliquer obligatoirement notre règlement de la communauté, avec plus de 20 000 réviseurs de Google opérant dans le monde entier. Dans nos systèmes, les classificateurs d'IA aident à détecter les contenus qui enfreignent potentiellement nos politiques à grande échelle, et les réviseurs s'efforcent de confirmer si le contenu a effectivement franchi les limites des politiques. L'IA augmente continuellement la vitesse et la précision de nos systèmes de modération de contenu.

L'un des effets visibles de l'utilisation de l'IA a été l'identification de nouvelles formes d'abus. Lorsque de nouvelles menaces apparaissent, nos systèmes disposent de relativement peu de contexte pour les comprendre et les identifier à grande échelle. Mais l'IA générative nous aide à étendre rapidement l'ensemble des informations sur lesquelles nos classificateurs d'IA sont entraînés, ce qui signifie que nous sommes en mesure d'identifier et d'intercepter ce contenu beaucoup plus rapidement. L'amélioration de la vitesse et de la précision de nos systèmes nous permet également de réduire la quantité de contenu pernicieux auquel les réviseurs humains sont exposés.

Intégrer la responsabilité dans nos fonctionnalités et outils d'IA

Alors que nous continuons à développer de nouveaux outils d'IA pour les créateurs, notre approche reste cohérente avec la manière dont nous avons relevé certains de nos plus grands défis en matière de responsabilité : nous croyons en la nécessité de prendre le temps de bien faire les choses, plutôt que de nous efforcer d'être les premiers.

Nous réfléchissons attentivement à la manière dont nous pouvons tirer parti d'années d'investissement dans des équipes et des technologies capables de modérer le contenu à notre échelle. Cela inclut un travail important et continu pour développer des garde-fous qui empêcheront nos outils d'IA de générer le type de contenu qui n'a pas sa place sur YouTube.

Nous reconnaissons également que de mauvais acteurs tenteront inévitablement de contourner ces garde-fous. Nous intégrerons le retour d'information des utilisateurs et l'apprentissage pour améliorer continuellement nos protections. Au sein de notre entreprise, des équipes spécialisées, telles que notre cellule de renseignement, se concentrent spécifiquement sur les tests d'adversité et la détection des menaces afin de s'assurer que nos systèmes relèvent les nouveaux défis à mesure qu'ils apparaissent.

La transformation par l'IA est à notre porte

Nous n'en sommes qu'au début de notre voyage pour débloquer de nouvelles formes d'innovation et de créativité sur YouTube grâce à l'IA générative. Nous sommes extrêmement enthousiastes quant au potentiel de cette technologie et nous savons que ce qui va suivre aura des répercussions sur les industries créatives dans les années à venir. Nous prenons le temps d'équilibrer ces avantages et de garantir la sécurité de notre communauté en cette période charnière. Nous travaillerons main dans la main avec les créateurs, les artistes et les autres acteurs de l'industrie créative pour construire un avenir qui nous soit profitable à tous.