Cómo ayudamos a divulgar si el contenido es sintético o alterado

La IA generativa transforma la forma de expresarse de los creadores y las creadoras, por ejemplo, les permite crear guiones gráficos con sus ideas o experimentar con herramientas para mejorar el proceso creativo. Sin embargo, las personas que utilizan internet buscan una transparencia cada vez mayor en relación con el origen del contenido para saber si está alterado o es sintético.

Por eso, hoy presentamos una nueva herramienta en Creator Studio que requiere que los creadores informen a los espectadores cuando un contenido realista, aquel que un espectador podría confundir fácilmente con una persona, un lugar, una escena o un acontecimiento reales- se haya realizado con medios alterados o sintéticos, incluida la IA generativa. Asimismo, no exigimos a las personas creadoras que revelen contenidos claramente irreales o animados, que incluyen efectos especiales o que hayan utilizado IA generativa como ayuda a dicha producción.

Esta iniciativa se enmarca dentro de nuestro enfoque de innovación responsable de la IA anunciado en el pasado mes de noviembre, que incluye requisitos de divulgación y etiquetas, un proceso actualizado de solicitud de privacidad y garantiza que la responsabilidad se incorpore a todos nuestros productos y funciones basadas en IA.

Con esta etiqueta nueva se busca fortalecer la transparencia hacia las personas que utilizan internet y generar confianza entre las personas creadoras y su público. Estos son algunos ejemplos de contenidos que se deben etiquetar:

• Representación realística de una persona: Contenido que se alteró digitalmente para reemplazar un rostro por otro o en el que se generó de manera sintética la voz de una persona para narrar un video
• Alteración de videos de eventos o lugares reales: Por ejemplo, aparentar que un edificio real se incendia o alterar un paisaje urbano real para que parezca distinto de la realidad
• Generación de escenas realistas: Mostrar una representación realista de acontecimientos ficticios grandes, como un tornado que avanza hacia una ciudad real

Por supuesto, reconocemos que las personas creadoras usan la IA generativa de varias formas durante el proceso creativo, por lo que no les solicitaremos que divulguen si la utilizaron para mejorar la productividad, como por ejemplo para crear guiones, inspirar ideas de contenidos o incluir subtítulos automáticos. Tampoco les pediremos que incluyan una divulgación cuando el contenido multimedia sintético sea poco realista o los cambios sean intrascendentes. Entre estos casos de uso, se incluyen los siguientes:

• Contenido evidentemente inverosímil, como animaciones o personas montadas en un unicornio en un mundo fantástico
• Filtros para ajustar el color o la iluminación
• Efectos especiales, como un fondo difuminado o efectos vintage
• Filtros de belleza o mejoras visuales

Encuentra una lista con ejemplos más extensa en nuestro Centro de ayuda. Para la mayoría de los videos, aparecerá una etiqueta en la descripción expandida, pero en el caso de videos que traten temas más sensibles, como salud, noticias, elecciones o finanzas. También mostraremos una etiqueta más destacada en el propio vídeo.

Ejemplo de una etiqueta en el reproductor de video:

Comenzarás a ver el lanzamiento de estas etiquetas en todas las plataformas y formatos de YouTube en las próximas semanas, comenzando con la app de YouTube en el teléfono y próximamente estará disponible para ordenadores y televisores. Pronto las verás en la versión para ordenadores y TVs. Si bien queremos darle tiempo a la comunidad para adaptarse a los nuevos procesos y funciones, en el futuro estudiaremos medidas de cumplimiento para las personas creadoras que decidan sistemáticamente no revelar esta información. En algunos casos, es posible que YouTube agregue una etiqueta incluso si la persona creadora no realizó la divulgación, en especial si el contenido sintético o alterado puede llegar a confundir o engañar a las personas.

Y lo que es más importante, seguimos colaborando con todo el sector para aumentar la transparencia de los contenidos digitales. Esto incluye nuestro trabajo como miembros directivos de la Coalición para Procedencia y Autenticidad del Contenido (C2PA).

Al mismo tiempo, como anunciamos previamente, seguimos trabajando en un proceso de privacidad actualizado para que las personas puedan solicitar la eliminación de contenidos generados por IA u otros contenidos artificiales o alterados que simulan a una persona reconocible, incluidos su rostro o su voz. Pronto tendremos más información sobre cómo introduciremos este proceso en todo el mundo.

Las personas creadoras son el corazón de YouTube y seguirán cumpliendo un rol increíblemente importante para ayudar al público a comprender el mundo de la IA generativa, así como aprovecharlo y adaptarse a él. Este proceso siempre será evolutivo y en YouTube seguiremos mejorando conforme vayamos aprendiendo. Esperamos que esta mayor transparencia nos ayude a todos a apreciar mejor cómo la IA sigue potenciando la creatividad humana.