Cómo abordamos el contenido falso explícito en el Buscador
Con cada nuevo avance tecnológico surgen nuevas oportunidades para ayudar a las personas, pero también nuevas formas de delito que debemos combatir. A medida que la tecnología de imágenes generativas ha ido mejorando en los últimos años, se ha producido un preocupante aumento de imágenes y vídeos generados que retratan a personas en situaciones sexualmente explícitas y que se distribuyen en Internet sin su consentimiento.
A veces se denominan «deepfakes», y estos contenidos pueden resultar muy angustiosos para las personas afectadas. Por eso hemos invertido en políticas y sistemas para ayudar a las personas a tener más control sobre estos contenidos.
Hoy compartimos algunas actualizaciones importantes, desarrolladas a partir de los comentarios de expertos y víctimas de delitos, para proteger aún más a las personas. Entre ellas se incluyen: actualizaciones de nuestros procesos de eliminación para facilitar la remoción de este tipo de contenido del Buscador y actualizaciones de nuestros sistemas de clasificación para evitar que este tipo de contenido aparezca en las primeras posiciones de los resultados del Buscador.
Formas más sencillas de eliminar contenidos
Durante muchos años, las personas usuarias han podido solicitar la eliminación de imágenes falsas no consentidas del Buscador en virtud de nuestras políticas. Ahora hemos desarrollado sistemas para facilitar el proceso y ayudar a las personas a abordar este problema a gran escala.
Cuando alguien solicita con éxito la eliminación de contenido falso explícito no consentido en el que aparece en el Buscador, los sistemas de Google también intentarán filtrar todos los resultados explícitos en búsquedas similares sobre esa persona. Además, cuando alguien elimine con éxito una imagen del Buscador en función de nuestras políticas, nuestros sistemas buscarán -y eliminarán- cualquier duplicado de esa imagen que encontremos.
Estas protecciones ya han demostrado su eficacia frente a otros tipos de imágenes no consentidas, y ahora hemos incorporado las mismas funciones para las imágenes explícitas falsas. Estos esfuerzos están diseñados para dar a la gente una mayor tranquilidad, especialmente si les preocupa que aparezcan contenidos similares sobre ellos en el futuro.
Mejores sistemas de clasificación
Con tantos contenidos creados en línea cada día, la mejor protección contra el contenido dañino es construir sistemas que clasifiquen la información de alta calidad en los primeros puestos del Buscador. Con esto en mente, hemos lanzado actualizaciones de clasificación para limitar aún más la visibilidad del contenido falso explícito en el Buscador.
En primer lugar, estamos introduciendo actualizaciones de clasificación que reducirán el contenido explícito falso en muchas búsquedas. Para las consultas que busquen específicamente este contenido e incluyan nombres de personas, intentaremos mostrar contenido no explícito de alta calidad, como artículos de noticias relevantes, cuando esté disponible. Las actualizaciones que hemos realizado este año han reducido la exposición a resultados con imágenes explícitas en este tipo de consultas en más de un 70%. Con estos cambios, la gente puede leer sobre el impacto que los “deepfakes” están teniendo en la sociedad, en lugar de ver páginas con imágenes falsas reales no consentidas.
También es necesario distinguir el contenido explícito real y consentido (como las escenas de desnudo de un actor) del contenido explícito falso (como los “deepfakes” en los que aparece dicho actor). Aunque diferenciar entre estos contenidos es un desafío técnico para los motores de búsqueda, estamos introduciendo mejoras continuas para sacar a la luz los contenidos legítimos y reducir la posición de los contenidos explícitos falsos.
Por lo general, si un sitio tiene muchas páginas que hemos eliminado del Buscador en virtud de nuestras políticas, eso es una señal bastante clara de que no es un sitio de alta calidad, y deberíamos tenerlo en cuenta a la hora de clasificar otras páginas de ese sitio. Así que estamos descendiendo la categoría de los sitios que han recibido un alto volumen de eliminaciones por imágenes explícitas falsas. Este planteamiento ha funcionado bien con otros tipos de contenido nocivo, y nuestras pruebas demuestran que será una forma valiosa de reducir el contenido explícito falso en los resultados de búsqueda.
Estos cambios son actualizaciones importantes de nuestras protecciones en el Buscador, pero aún queda trabajo por hacer para resolver este problema. Al fin y al cabo, se trata de un problema que va mucho más allá de los motores de búsqueda. Seguiremos creando nuevas soluciones e invirtiendo en asociaciones para ayudar a las personas afectadas por estos contenidos.
