Cómo abordamos los contenidos falsos explícitos en el Buscador
Con cada nuevo avance tecnológico, surgen nuevas oportunidades de ayudar a las personas, pero también nuevas formas de abuso que debemos combatir. Con los avances en la tecnología de imágenes generativas que se han ido sucediendo en los últimos años, se ha producido un preocupante aumento de imágenes y vídeos generados en los que aparecen personas en contextos sexualmente explícitos y que se distribuyen en internet sin su consentimiento.
Este tipo de contenidos, que en ocasiones se denominan «deep fakes», pueden producir una profunda angustia en las personas afectadas. Por ello, tenemos desde hace mucho tiempo políticas y hemos invertido en sistemas que ayudan al público a tener un mayor control sobre estos contenidos.
Hoy compartimos algunas novedades importantes destinadas a mejorar la protección de las personas, que hemos desarrollado a partir de opiniones de expertos y testimonios de víctimas. Esencialmente, se trata de actualizaciones en nuestros procesos de eliminación que facilitan el borrado de estos contenidos en el Buscador, así como de cambios en nuestros sistemas de clasificación, que evitan que aparezcan en las primeras posiciones de los resultados.
Mayor facilidad para eliminar contenidos
De conformidad con nuestras políticas, hace ya muchos años que cualquier persona puede solicitar la eliminación de imágenes falsas no consentidas de los resultados del Buscador. Recientemente, hemos desarrollado sistemas que facilitan este proceso y ayudan a abordar este problema a gran escala.
Cuando una persona solicita correctamente que se elimine del Buscador un contenido falso explícito no consentido en donde aparece, los sistemas de Google también procuran filtrar todos los resultados explícitos en búsquedas similares sobre dicha persona. Además, cuando alguien hace eliminar una imagen del Buscador con arreglo a nuestras políticas, nuestros sistemas buscan duplicados de esa imagen y los borran.
Estas protecciones ya han demostrado su eficacia frente a otros tipos de imágenes no consentidas. Ahora hemos ampliado esta misma funcionalidad a las imágenes explícitas falsas. Estos esfuerzos están dirigidos a dar una mayor tranquilidad, sobre todo cuando existe la preocupación de que, en el futuro, puedan aparecer de nuevo contenidos similares sobre una determinada persona.
Mejora de los sistemas de clasificación
Con la cantidad de contenidos que se crean en internet cada día, la mejor protección contra los contenidos nocivos consiste en poner a punto sistemas que posicionan la información de alta calidad en los primeros resultados del Buscador. Con esta idea en mente, hemos hecho cambios en los sistemas de clasificación que limitan aún más la visibilidad de los contenidos falsos explícitos.
Como primera medida, estamos implantando actualizaciones de clasificación que reducirán la cantidad de contenido falso explícito en muchas de las búsquedas. En lo que respecta a las consultas en que se buscan expresamente contenidos explícitos y se incluyen nombres de personas, nuestra estrategia pasa por mostrar en primer lugar contenidos no explícitos y de calidad, cuando existan; por ejemplo, noticias relevantes. Las actualizaciones que hemos introducido este año han reducido la exposición a resultados de imágenes explícitas en este tipo de consultas en más de un 70%. Gracias a estos cambios, los usuarios ven información sobre el impacto que los «deep fakes» están teniendo en la sociedad, en lugar de páginas con imágenes falsas no consentidas.
Con todo, es preciso distinguir entre contenidos explícitos reales y consentidos (como escenas de desnudo de un actor o una actriz) y contenidos explícitos falsos (como «deep fakes» en donde aparece esa misma persona). Aunque diferenciar entre ambos es un reto técnico para los motores de búsqueda, continuamente introducimos mejoras para que los contenidos legítimos aparezcan en primer lugar, y para rebajar la calificación de los contenidos falsos explícitos.
Por lo general, si un determinado sitio tiene muchas páginas que hemos eliminado del Buscador conforme a nuestras políticas, es una señal bastante clara de que no es un sitio de buena calidad, cosa que debemos tener en cuenta a la hora de clasificar otras páginas de ese sitio. De este modo, disminuimos la posición de los sitios que han sido objeto de gran cantidad de eliminaciones por imágenes explícitas falsas. Este planteamiento ha funcionado bien con otros tipos de contenidos nocivos y nuestras pruebas apuntan a que va a ser una herramienta valiosa para reducir el contenido explícito falso en los resultados de búsqueda.
Estos cambios representan novedades importantes en las protecciones de nuestro Buscador, aunque somos conscientes de que queda mucho trabajo por hacer para solucionar este problema. Al fin y al cabo, se trata de un desafío que va mucho más allá de los motores de búsqueda. Por nuestra parte, vamos a continuar creando nuevas soluciones e invirtiendo en colaboraciones para ayudar a las personas afectadas por estos contenidos.
