Cómo combatimos el contenido fraudulento en Google Maps

Google Maps es el lugar al que acudimos para obtener información sobre el mundo que nos rodea. Allí buscamos negocios, direcciones, fotos de restaurantes y leemos reseñas.

Una de las formas en la que mantenemos Google Maps actualizado y confiable es a través de los aportes de los usuarios. Desde que comenzamos a incorporar este tipo de contenido en 2010, más de 970 millones de personas han sumado distintos tipo de información como comentarios, calificaciones, fotos, y otros datos útiles como direcciones y horarios comerciales. Todas estas contribuciones permiten que Google Maps se mantenga al día con un mundo que cambia constantemente a nuestro alrededor y también ayudan a las personas a tomar decisiones más informadas.

Pero así como Google Maps es un reflejo del mundo real, también lo son las personas que contribuyen a él. Así como hay malos actores en el mundo real, hay quienes intentan engañar a Google Maps y a la gente que lo utiliza con contenido inapropiado

La gran mayoría de esos datos se eliminan antes de que ustedes puedan verlo. Y si bien gran parte de nuestro trabajo para evitar contenido inapropiado se realiza tras bastidores, queríamos compartir algunos detalles sobre nuestros esfuerzos y progreso para mantener Google Maps confiable.

Cómo detectamos malos actores

Las técnicas se utilizan para engañar a las personas son variadas y van desde reseñas falsas que alteran un negocio hasta calificaciones no auténticas que aumentan la reputación de un comercio. Luchar contra este contenido inútil es una batalla compleja e incesante, y de la que rara vez detallamos públicamente para no alertar a los estafadores sobre nuestras técnicas en constante cambio.

Una de las mejores herramientas que tenemos para contraatacar es comprender cómo se ve el uso normal y auténtico de Google Maps. Por ejemplo, sabemos que es probable que la persona promedio use Google Maps mientras se desplaza hacia su trabajo o en un viaje por carretera, o mientras busca restaurantes o servicios cercanos. En muchos casos dejarán reseñas en los lugares que visitaron y, por lo general, agregarán calificaciones o fotos en grupos de ubicaciones específicas.

Este tipo de observaciones informan a nuestros algoritmos de aprendizaje automático que escanean millones de contribuciones diarias. Estos algoritmos detectan y eliminan contenido que infringe las políticas en una variedad de idiomas y también escanean señales de actividad anormal del usuario. Por ejemplo, pueden detectar si una nueva cuenta de Google Maps en, por ejemplo, Bangkok, de repente deja malas críticas de concesionarios de automóviles en la Ciudad de México y calificaciones de restaurantes de 1 estrella en Chicago. Nuestros modelos automatizados eliminan el contenido que infringe las políticas o lo marcan para su posterior revisión, junto con la cuenta de usuario.

También implementamos miles de operadores y analistas capacitados que ayudan con las evaluaciones de contenido que pueden ser difíciles para los algoritmos, como comprender reseñas con jerga local.

Defensas en constante evolución

Estos equipos y protecciones están diseñados para luchar principalmente contra dos tipos de malos actores: estafadores de contenido y vándalos de contenido.

Los estafadores, que en última instancia están motivados por el dinero, intentan engañar a las personas con reseñas falsas para atraer clientes, o con listados falsos para generar oportunidades comerciales. Para disuadirlos, eliminamos de forma preventiva las oportunidades para que no se beneficien de ese contenido falso.

Por ejemplo, hemos centrado nuestros esfuerzos en detectar contenido procedente de granjas de clics donde se generan valoraciones y reseñas falsas. A través de una mejor detección de esta actividad, estamos dificultando la publicación de contenido falso a bajo precio, lo que en última instancia dificulta que una granja de clics venda reseñas y gane dinero. Y para detectar perfiles comerciales falsos antes de que aparezcan en Maps, hemos fortalecido nuestros procesos de verificación de Google My Business con nuevos modelos de aprendizaje automático que ayudan a identificar interacciones fraudulentas. Al luchar contra los esfuerzos a gran escala para crear perfiles comerciales falsos, hemos bloqueado millones de intentos de estafadores con el objetivo de robar clientes de negocios legítimos al excluirlos de los resultados de búsqueda.

Luego están los vándalos de contenido, que pueden estar motivados por eventos sociales y políticos o simplemente quieren dejar su huella en línea. Por ejemplo, publican reseñas falsas o editan los nombres de lugares para enviar un mensaje o agregan fotos fuera de tema como bromas.

El vandalismo de contenido puede ser más difícil de abordar, ya que a menudo es aleatorio. Por ejemplo, un adolescente que publica una foto fuera de tema en la lista de su escuela secundaria en Maps como una broma o alguien que dejó una grosería en una reseña sin sentido.

Impedir este tipo de actividad se reduce a la anticipación y la reacción rápida. A medida que los lugares se vuelven más propensos al vandalismo, ajustamos nuestras defensas. Por ejemplo, el año pasado modificamos rápidamente nuestros algoritmos para bloquear preventivamente las críticas racistas cuando observamos xenofobia anti-china asociada con COVID-19. Para evitar la propagación de información errónea relacionada con las elecciones en Estados Unidos, limitamos la capacidad de las personas para editar los números de teléfono, direcciones y otra información de lugares como sitios de votación. Y restringimos las revisiones para ciertos lugares donde observamos tasas más altas de contenido que viola las políticas, como escuelas en los EE.UU.

Nuestro progreso en la lucha contra el contenido no deseado

Con la ayuda de personas y tecnología que supervisan de cerca a Google Maps las 24 horas del día, los 7 días de la semana, podemos tomar medidas rápidas contra los estafadores, que van desde la eliminación de contenido y la suspensión de cuentas hasta los litigios. Solo en 2020, tomamos las siguientes acciones para garantizar que el contenido que ve en Google Maps sea confiable:

• Bloqueamos o eliminamos más de 55 millones de revisiones que infringían nuestras políticas y 3 millones de perfiles comerciales falsos. Se trata de 20 millones de revisiones menos en comparación con 2019 en gran parte debido al menor número de personas que han salido durante COVID-19.
• Eliminamos más de 960.000 reseñas y más de 300.000 perfiles comerciales que nos informaron los usuarios de Google Maps. Este es un aumento con respecto a 2019 a medida que expandimos las capacidades de revisión de nuestros sistemas automatizados, que complementan la revisión manual del contenido reportado realizada por operadores y analistas.
• Revisamos y eliminamos más de 160 millones de fotos y 3,5 millones de videos que infringían nuestras políticas de contenido. Gracias a los avances en nuestros sistemas automatizados, hemos mejorado significativamente nuestra detección de imágenes que infringen nuestras políticas o son de baja calidad, como fotos que estaban muy borrosas. Esto ha llevado a mejoras importantes en la calidad de las fotos en Maps, tanto las nuevas fotos agregadas como las compartidas en años anteriores. Y a medida que nos enfocamos más agresivamente en los malos actores en general, la eliminación de cuentas podría llevar a la eliminación de todo su contenido en Maps, en algunos casos miles de fotos.
• Nuestras tecnologías y equipos desactivaron más de 610.000 cuentas de usuario después de detectar e investigar comportamientos sospechosos o que infringían nuestras políticas.
• Detuvimos más de 3 millones de intentos de malos actores para verificar perfiles comerciales en Google que no les pertenecían.

El contenido que aportan nuestros usuarios es una parte importante de cómo continuamos haciendo que Google Maps sea cada vez más útil y preciso para todos. A medida que más personas compartan su conocimiento local en Google Maps, continuaremos invirtiendo en las políticas, tecnologías y recursos necesarios para asegurarnos de que la información sea confiable.