Como combatemos contribuições falsas e fraudulentas no Google Maps

Para muita gente, o Google Maps é o destino certo na hora de obter informações sobre o mundo ao nosso redor. No Maps é possível procurar comércios, conferir instruções para chegar a lugares, ver fotos de pontos específicos e ler críticas sobre atrações.

Um dos jeitos de garantir que o Maps se mantenha preciso e confiável é contar com atualizações enviadas por pessoas comuns. Aceitamos essas contribuições desde 2010, e de lá para cá mais de 970 milhões de pessoas já atualizaram alguma informação no Google Maps – publicando uma crítica sobre um estabelecimento ou uma foto; dando notas para serviços e fornecendo informações factuais como endereços e horário de funcionamento. Graças a essas colaborações, o Google Maps consegue acompanhar um mundo em constante mudança e ajudar as pessoas a tomarem decisões com base em informações corretas.

Assim como o Google Maps é um reflexo do mundo real, o mesmo vale para as pessoas que contribuem com a ferramenta. O mesmo vizinho que te ajuda quando você precisa pode escrever uma crítica bem-humorada sobre um restaurante. Entretanto, infelizmente o contrário também acontece. Da mesma forma que existem pessoas mal-intencionadas no mundo, tem gente que tenta colocar conteúdo inadequado no Google Maps. Felizmente, a maior parte dessas situações sai do ar antes mesmo de chegar aos usuários.

O grosso do trabalho para evitar esse tipo de conteúdo ocorre nos bastidores, e hoje queremos contar um pouco sobre os investimentos e avanços que temos feito para assegurar que o Maps continue preciso e confiável.

Como identificamos pessoas mal-intencionadas

Pessoas mal-intencionadas tentam enganar os outros usando uma série de técnicas – desde críticas falsas que possam prejudicar um estabelecimento a classificações inventadas para turbinar a fama de um local. Combater esse tipo de conteúdo prejudicial é uma batalha complexa e constante. Raramente falamos sobre isso, para não entregar nossas técnicas (que estão em permanente evolução) aos golpistas.

Uma das melhores ferramentas nessa luta é entender como funciona o uso normal e autêntico do Google Maps. Um exemplo: sabemos que uma pessoa comum costuma usar o Maps enquanto está em movimento – indo trabalhar ou na estrada em viagem –, ou enquanto procura um restaurante ou serviço nas redondezas. Os usuários publicam resenhas sobre lugares que visitaram e, de maneira geral, dão uma nota ou postam uma foto na página específica do local.

Esse tipo de observação alimenta nossos algoritmos de aprendizado de máquina, capazes de fazer varreduras em milhões de contribuições, todos os dias. Os algoritmos identificam e retiram do ar conteúdo que viole nossas regras, em uma série de idiomas, além de procurar indícios de atividade anormal. Eles conseguem detectar, por exemplo, quando uma nova conta de usuário no Maps, localizada em Bangkok (por hipótese), publica uma crítica negativa sobre uma concessionária de carros na Cidade do México e dá uma nota baixa para um restaurante em Chicago. O conteúdo que desrespeita as regras é removido por modelos automatizados, ou marcado com um sinal de alerta para ser avaliado, juntamente com a conta do usuário que o publicou.

Contamos ainda com milhares de operadores e analistas treinados para vasculhar conteúdos mais difíceis para os algoritmos – como, por exemplo, entender uma crítica que use termos da gíria local.

Avanços na nossa proteção contra falsificadores e pessoas mal-intencionadas

Essas equipes e barreiras são criadas para combater dois tipos principais de usuários: falsificadores e pessoas que violam conteúdos.

Os falsificadores quase sempre são movidos por dinheiro, e tentam enganar as pessoas com golpes como resenhas falsas capazes de atrair clientes ou estabelecimentos inexistentes que possam gerar novas oportunidades de negócios. Para impedir esse tipo de ação, trabalhamos de forma preventiva e retiramos do ar oportunidades que possam ser usadas para lucrar com esse tipo de conteúdo.

Uma de nossas estratégias é centrar esforços na identificação de conteúdo vindo das chamadas “fazendas de cliques” que geram resenhas e notas falsas. Ao aprimorar a detecção da atividade dessas fazendas de cliques, dificultamos a vida de quem quer publicar conteúdo falso pagando pouco – o que, em última análise, dificulta também a vida das fazendas de cliques, na hora de vender essas resenhas falsas e ganhar dinheiro. Para identificar perfis falsos de comércios antes que eles apareçam no Maps, reforçamos o processo de verificação do Google Meu Negócio, usando novos modelos de aprendizado de máquina que ajudam a perceber movimentações fraudulentas. Ao combater a criação de perfis comerciais falsos em grande escala, interrompemos milhões de tentativas de fraudadores que pretendem desviar os clientes de estabelecimentos reais, usando a tática de empurrá-los para fora dos resultados da busca.

Existem também pessoas que violam conteúdos. Sua motivação pode ser um acontecimento social ou político – ou apenas o desejo de deixar uma marca na internet. Um exemplo: indivíduos que publicam críticas falsas ou editam nomes de lugares, com o objetivo de mandar um recado, e ainda colocam fotos sem relação com o estabelecimento para valorizar o golpe.

A violação de conteúdo costuma ser mais difícil de identificar, uma vez que costuma ser aleatória. Um adolescente que publica uma foto qualquer no site da escola, para fazer pirraça, ou alguém que escreve palavras vulgares numa resenha sem sentido, são exemplos desse tipo de ação.

O combate à violação de conteúdo se resume a boas previsões e reações ágeis. À medida que um local se torna mais atraente para esses “vândalos”, nós ajustamos as barreiras de defesa. Como exemplo, no ano passado mudamos rapidamente os algoritmos para bloquear, de forma preventiva, comentários racistas relacionados ao movimento xenofóbico anti-China associado à pandemia. Para evitar a disseminação de informações enganosas sobre as eleições americanas, limitamos a possibilidade de que pessoas editassem números de telefone, endereços e outras informações sobre locais de votação. E restringimos ainda resenhas para determinados lugares onde observamos taxas mais altas de violação de conteúdo, como escolas nos Estados Unidos.

Avanços na luta contra conteúdo indesejado

Com a ajuda de pessoas e tecnologias que monitoram o Maps de perto, 24 horas por dia, conseguimos agir rapidamente contra golpistas – com iniciativas que vão da retirada de conteúdo até processos judiciais, passando pela suspensão da conta. Só em 2020 adotamos as seguintes medidas para assegurar a confiabilidade do Google Maps:


O conteúdo que vem dos usuários é extremamente importante para que o Google Maps siga sendo cada vez mais útil e preciso para todos. À medida que mais e mais gente compartilha o que sabe sobre a sua região ou bairro, seguiremos investindo em regras, tecnologias e recursos necessários para assegurar que as informações exibidas sejam confiáveis.
Postado por Dan Pritchett, Engenheiro de software principal do Google Maps

• Bloqueamos ou removemos mais de 35 milhões de resenhas que descumpriam nossas regras e 2,9 milhões de perfis comerciais falsos. Esse número representa 40 milhões de resenhas a menos do que em 2019, em grande parte graças à queda no número geral de comentários devido ao menor número de pessoas que saíram de casa durante a pandemia de COVID-19.
• Derrubamos mais de 960 mil resenhas e mais de 300 mil perfis comerciais indicados como falsos ou enganosos pelos próprios usuários do Maps. Trata-se de um aumento em relação a 2019, já que ampliamos a capacidade de análise de nossos sistemas automáticos – que complementam a revisão manual de conteúdo marcado como suspeito pelos usuários e avaliado por operadores e analistas.
• Analisamos e tiramos do ar mais de 168 milhões de fotos e 3,6 milhões de vídeos que desrespeitam nossas regras de conteúdo. Graças aos avanços em nossos sistemas automatizados, melhoramos consideravelmente a capacidade de identificar imagens que descumprem regras ou sejam de baixa qualidade – como fotos extremamente desfocadas. Isso levou a melhorias importantes na qualidade das fotos exibidas pelo Maps, tanto nas imagens novas quanto nas publicadas no passado. Graças a esse trabalho amplo para combater pessoas mal-intencionadas em geral, a retirada de uma conta pode levar ao apagamento de todo o conteúdo produzido por ela – em alguns casos, milhares de fotos.
• Nossa tecnologia e nossas equipes desabilitaram mais de 614 mil contas de usuários depois de detectar e investigar comportamento suspeito ou contrário às regras.
• Impedimos mais de 354 mil tentativas de pessoas mal-intencionadas que tentaram verificar Perfis Comerciais do Google que não pertenciam a elas.