Como a inteligência artificial ajuda a garantir a segurança na Busca do Google

Todos os dias as pessoas procuram o Google para encontrar maneiras de garantir a própria segurança e a segurança de suas famílias. Estamos sempre trabalhando para encontrar novas formas de assegurar que qualquer pesquisa esteja ao alcance de uma resposta rápida – seja informações importantes após um desastre natural ou dados de saúde oportunos para cada momento. Avanços na inteligência artificial (IA) podem impulsionar novas tecnologias, como previsão de enchentes, e assim ajudar a proteger a todos.

A seguir, contamos um pouco mais sobre recentes avanços em IA, que nos ajudam a conectar pessoas a informações importantes – e, ao mesmo tempo, evitam a exposição a conteúdos potencialmente ofensivos e prejudiciais. Com isso, ajudamos todos a se manterem seguros, tanto on quanto offline.

Acesso a informações confiáveis e práticas, no momento necessário

Sabemos que muita gente recorre à Busca em momentos decisivos. Hoje em dia, quem procura no Google informações sobre suicídio, agressão sexual, uso abusivo de substâncias químicas e violência doméstica, poderá encontrar dados de contato para atendimento de apoio, bem como resultados da maior qualidade disponível na internet. No Brasil, por exemplo, para pesquisas que podem indicar alguém em crise, já é possível encontrar no topo dos resultados da Busca um canal direto para o suporte gratuito do Centro de Valorização à Vida (CVV), via chat ou telefone, dos profissionais da instituição parceira.

A questão é que, num momento de crise, as pesquisas podem ser feitas de formas muito diferentes – e nem sempre deixam evidente que o usuário precisa de ajuda. Quando não conseguimos reconhecer isso com clareza, não é possível codificar nosso sistema de modo a mostrar os resultados mais úteis para aquela situação. Daí a importância de usar o aprendizado de máquina para compreender a linguagem humana.

Agora, graças a nosso modelo mais recente de IA – chamado de MUM –, podemos identificar de forma automática e mais precisa uma ampla gama de pesquisas que as pessoas fazem quando estão passando por dificuldades. O MUM é capaz de compreender melhor as intenções por trás das perguntas digitadas, e de perceber quando alguém precisa de ajuda. Com isso, mostramos informações cada vez mais práticas, confiáveis e adequadas a cada situação. Ao longo das próximas semanas, o MUM começará a ser usado para garantir essas melhorias.

Proteção contra conteúdo inesperado, que possam ser potencialmente chocantes

Garantir a segurança na Busca significa, também, mantê-las longe de conteúdo que elas não desejam ver. É muito importante que, ao fazer uma pesquisa, o usuário não seja exposto a informações inesperadas, que possam chocar ou causar uma impressão forte e negativa. Essa é uma tarefa desafiadora: por vezes, criadores de conteúdo usam termos positivos para marcar coisas que podem ser explícitas ou sugestivas. E, por vezes, o conteúdo mais prevalente, que corresponde à pesquisa digitada, pode não ser o que a pessoa estava procurando. Nesse tipo de situação, resultados explícitos podem acabar aparecendo – mesmo que essa não fosse a intenção original da pesquisa.

Uma das formas de enfrentar essa questão é usar o modo SafeSearch, que oferece a opção de eliminar resultados explícitos. Essa configuração fica acionada por padrão em qualquer conta Google de menores de 18 anos. Mesmo quando o SafeSearch está desligado, nosso sistema continua reduzindo a exibição de resultados que podem ser considerados fortes por quem buscava outras coisas. Todos os dias, os algoritmos de segurança do Google melhoram os resultados de milhões de pesquisas feitas na internet em todo o mundo, seja por texto, foto ou vídeo.

Mas, evidentemente, sempre há espaço para avançar ainda mais. Com o objetivo de ir além na redução desses resultados indesejados, estamos usando tecnologias avançadas de IA, como o BERT, para entender ainda melhor o que cada pessoa espera encontrar. O BERT já aprimorou nossa capacidade de entender quando uma busca está de fato tentando encontrar conteúdo explícito. Com isso, reduzimos drasticamente a possibilidade de alguém se deparar com resultados chocantes ou inesperados.

Há anos tentamos solucionar esse desafio complexo. Só em 2021, reduzimos em 30% a exposição a resultados potencialmente chocantes e ofensivos, graças aos avanços com o BERT. Ele é particularmente eficaz na hora de diminuir a exibição de conteúdo explícito em pesquisas relacionadas a questões de etnia, orientação sexual e gênero – temas que têm um impacto maior para mulheres, sobretudo mulheres negras.

Ampliação do alcance das proteções do Google, em todo o mundo

O MUM é capaz de transferir seus conhecimentos para as mais de 75 línguas nas quais foi treinado. Isso ajuda o Google a ampliar a escala dessas proteções de segurança para todo o mundo, com grande eficiência. Quando ensinamos um modelo MUM a realizar uma tarefa – por exemplo, a classificar a natureza de uma pesquisa –, ele aprende a fazer a mesma coisa em todos os idiomas que conhece.

Usamos a inteligência artificial para reduzir a exibição de páginas de spam inúteis e às vezes até perigosas. Ao longo dos próximos meses, o MUM vai ajudar a melhorar a qualidade dessas proteções anti-spam e expandi-las para línguas nas quais ainda temos poucos dados para treinar modelos. Poderemos também identificar melhor pesquisas digitadas em momentos de crise, em diferentes lugares do mundo, num trabalho realizado em parceria com organizações locais. Assim, mostraremos informações ainda mais confiáveis e práticas em mais e mais países.

À semelhança do que ocorre a cada melhoria que fazemos na Busca, essas mudanças passam e continuarão a passar por avaliações rigorosas, e receberão contribuições dos classificadores de pesquisa em todo o mundo. Nosso objetivo é garantir que o Google siga oferecendo resultados cada vez mais relevantes e úteis. O que quer que você esteja procurando, nosso compromisso é te ajudar a encontrar essas informações em segurança.