Comment nous aidons les créatrices et créateurs à indiquer qu'un contenu a été modifié ou est synthétique

L'IA générative transforme la façon dont les créatrices et créateurs s'expriment, qu'il s'agisse de concevoir des storyboards ou d'essayer des outils qui améliorent le processus de création. Mais les spectateurs attendent en retour plus de transparence et veulent savoir si le contenu qu'ils regardent a été modifié ou est synthétique.

C'est pourquoi nous intégrons aujourd'hui un nouvel outil dans Creator Studio : les créateurs seront tenus d'indiquer aux spectateurs quand un contenu réaliste (c'est-à-dire un contenu qu'un spectateur pourrait facilement confondre avec une personne, un lieu ou un événement réels) a été produit à l'aide d'éléments multimédias modifiés ou synthétiques, y compris ceux issus de l'IA générative.

Cela s'appuie sur notre approche de l'innovation responsable en matière d'IA annoncée en novembre, qui comprend des exigences de transparence et de labellisation, un processus de demande de protection de la vie privée mis à jour, et garantit que la responsabilité est intégrée dans tous nos produits et fonctionnalités d'IA.

Ce nouveau libellé vise à renforcer la transparence vis-à-vis des spectateurs et à instaurer la confiance entre les créateurs et leur public. Voici quelques cas d'utilisation nécessitant un libellé :

• Utiliser l'image d'une personne réelle : modifier numériquement un contenu pour remplacer le visage d'une personne par celui d'une autre ou générer de façon synthétique la voix d'une personne pour la narration d'une vidéo
• Modifier les images d'événements ou de lieux réels : par exemple, pour faire croire qu'un bâtiment réel a pris feu ou pour changer l'apparence d'un paysage urbain réel
• Générer des scènes réalistes : représenter de façon réaliste des événements majeurs fictifs, comme une tornade se dirigeant vers une ville réelle

Évidemment, nous savons que les créatrices et créateurs utilisent l'IA générative de diverses façons tout au long du processus de création. Nous ne leur demanderons pas d'indiquer s'ils ont utilisé l'IA générative pour des questions de productivité, par exemple pour générer des scripts, des idées de contenus ou des sous-titres automatiques. Nous ne leur demanderons pas non plus de fournir cette information si les éléments multimédias synthétiques sont irréalistes et/ou si les changements apportés sont sans conséquence. Voici des exemples :

• Contenus manifestement irréalistes, comme une animation ou une personne chevauchant une licorne dans un monde fantastique
• Ajustement des couleurs ou filtres d'éclairage
• Effets spéciaux, comme un flou d'arrière-plan ou des effets rétro
• Filtres de beauté ou autres améliorations visuelles

Vous trouverez une liste d'exemples dans notre Centre d'aide. Pour la plupart des vidéos, un libellé apparaîtra dans la description détaillée, mais pour les vidéos qui abordent des sujets plus sensibles (par exemple la santé, les actualités, les élections ou la finance), nous afficherons un libellé plus visible sur la vidéo dans la fenêtre du lecteur.

Dans les semaines à venir, les libellés seront déployés sur toutes les plates-formes et tous les formats de YouTube, en commençant par l'application YouTube sur votre téléphone, et bientôt sur ordinateur et téléviseur. Nous souhaitons donner à notre communauté le temps de s'adapter aux nouveaux processus et fonctionnalités, mais à l'avenir, nous envisagerons d'appliquer des mesures coercitives aux créatrices et créateurs qui choisissent systématiquement de ne pas indiquer cette information. Dans certains cas, YouTube pourra ajouter un libellé même si le créateur n'a pas fourni l'information, en particulier si le contenu modifié ou synthétique peut prêter à confusion ou induire les personnes en erreur.

De plus, nous continuons à collaborer avec l'ensemble du secteur afin de renforcer la transparence dans le domaine des contenus numériques. Cela inclut notre travail en tant que membre directeur de la C2PA (Coalition for Content Provenance and Authenticity).

Les créatrices et créateurs sont au cœur de YouTube, et ils continueront à jouer un rôle extrêmement important en aidant leur audience à comprendre et à adopter le monde de l'IA générative, mais aussi à s'y adapter. Cette technologie ne cessera pas d'évoluer, et YouTube s'efforcera toujours d'apprendre et de s'améliorer. Nous espérons que cette transparence accrue nous aidera tous à mieux apprécier les façons dont l'IA contribue à renforcer la créativité humaine.