Cómo usamos la IA para mantener la Búsqueda de Google segura
Todos los días, las personas acuden a Google en busca de información crítica para mantenerse a sí mismos y a sus familias seguras. Desde destacar los recursos después de un desastre natural hasta proporcionar información de salud sensible al tiempo, estamos trabajando constantemente para asegurarnos de que la información de alta calidad esté a sólo una búsqueda de distancia. Y los avances en IA pueden impulsar nuevas tecnologías, como la previsión de inundaciones, para ayudar a las personas a mantenerse fuera de peligro.
A continuación compartimos algunas de las últimas formas en que los sistemas avanzados de la Inteligencia Artificial (AI) nos están ayudando a conectar a las personas con ayuda crítica, evitando al mismo tiempo contenido potencialmente impactante o dañino, para que puedan mantenerse seguros, en línea y fuera de ella.
Mostramos información confiable y práctica cuando más la necesitas
Sabemos que las personas acuden a la Búsqueda para encontrar información confiable en los momentos que más importan. Hoy en día, si buscas en Google información sobre suicidio, agresión sexual, abuso de sustancias y violencia doméstica, verás información de contacto para las líneas directas nacionales relevantes junto con los resultados más importantes y de alta calidad disponibles.
Pero las personas en crisis personales buscan de todo tipo de maneras, y no siempre es obvio que están necesitadas. Y si no podemos reconocer con precisión cuándo alguien está necesitado, no podemos codificar nuestros sistemas para mostrar los resultados de búsqueda más útiles. Es por eso que es tan poderoso e importante usar el aprendizaje automático para comprender el lenguaje.
Ahora, utilizando nuestro último modelo de IA, MUM, podemos detectar de forma automática y más precisa una gama más amplia de búsquedas sobre crisis personales. MUM es capaz de comprender mejor la intención detrás de las preguntas de las personas para detectar cuando una persona está necesitada. Esto nos ayuda a mostrar de manera más fidedigna información confiable y práctica en el momento adecuado. Empezaremos a usar a MUM para hacer estas mejoras en las próximas semanas.
Te mantenemos alejado del contenido impactante e inesperado
Mantenerte seguro en la Búsqueda también significa ayudarte a mantenerte alejado del contenido que no estás buscando. Es importante que cuando busques algo, no te encuentres con contenido impactante e inesperado. Esto puede ser un desafío porque a veces los creadores de contenido usan términos benignos para etiquetar contenido explícito o sugerente. Y el contenido más predominante que coincide con tu búsqueda puede no ser lo que pretendías encontrar. En estos casos, incluso si las personas no están buscando directamente ese contenido explícito, podría aparecer en sus resultados.
Una forma de abordar esto es con el modo SafeSearch (Bùsqueda Segura), que ofrece a los usuarios la opción de filtrar resultados explícitos. Esta configuración es la predeterminada en cuentas de Google para menores de 18 años. E incluso cuando los usuarios eligen tener SafeSearch desactivado, nuestros sistemas reducen los resultados subidos de tono y no deseados para las búsquedas que parecen no tener intención de encontrarlos. De hecho, todos los días, nuestros algoritmos de seguridad mejoran cientos de millones de búsquedas en todo el mundo a lo largo de las búsquedas web, de imagen y de vídeo.
Pero sigue habiendo margen de mejora. Para reducir los resultados inesperados, estamos utilizando tecnologías avanzadas de IA como BERT para comprender mejor lo que estás buscando. BERT ha mejorado nuestra comprensión sobre si las búsquedas realmente tienen la intención de encontrar contenido explícito. Esto nos permite reducir enormemente tus posibilidades de encontrar resultados de búsqueda inesperados.
Este es un desafío complejo que hemos estado abordando durante años, pero tan sólo en el último año, esta mejora de BERT ha reducido la presencia de resultados inesperados en un 30%. Ha tenido un impacto especial en la reducción del contenido explícito para búsquedas relacionadas con el origen étnico, la orientación sexual y el género, lo que puede afectar de manera desproporcionada a las mujeres y especialmente a las mujeres de color.
Ampliamos nuestras protecciones alrededor del mundo
MUM puede transferir conocimientos a través de los 75 idiomas en los que está entrenado, lo que puede ayudarnos a escalar las protecciones de seguridad en todo el mundo de manera mucho más eficiente. Cuando entrenamos a un modelo MUM para realizar una tarea, como clasificar la naturaleza de una consulta, aprende a hacerlo en todos los idiomas que conoce.
Por ejemplo, utilizamos la IA para ayudar a reducir las páginas de spam poco útiles y a veces peligrosas que pudieran aparecer en tus resultados de búsqueda. En los próximos meses, usaremos MUM para mejorar la calidad de nuestras protecciones contra spam y expandirnos a idiomas donde tenemos muy pocos datos de entrenamiento. También podremos detectar mejor las consultas sobre crisis personales alrededor del mundo, trabajando con socios locales de confianza para mostrar información práctica en varios países más.
Al igual que cualquier mejora de la Búsqueda, estos cambios han pasado y seguirán pasando por una evaluación rigurosa, con el aporte de nuestros evaluadores de la búsqueda alrededor del mundo para asegurarse de que estamos proporcionando resultados más relevantes y útiles. Busques lo que busques, nos comprometemos a ayudarte a encontrarlo de forma segura.
