Ser audaces con la IA significa ser responsables desde el principio

Creemos que nuestro enfoque de IA debe ser audaz y responsable. Para nosotros, eso significa desarrollar IA de una manera que maximice los beneficios positivos para la sociedad mientras abordamos los desafíos, guiados por nuestros Principios de IA. Si bien existe una tensión natural entre ambas, creemos que es posible – y de hecho crítico – asumir esa tensión de manera productiva. La única manera de ser verdaderamente audaces a largo plazo es ser responsables desde el principio.

Estamos aplicando audazmente la IA en nuestros innovadores productos utilizados por personas en todas partes, en nuestras contribuciones a los avances científicos que benefician a las personas y en ayudar a abordar los desafíos de la sociedad.

En nuestros productos, la IA ya está en muchos productos que millones (y en algunos casos miles de millones) de personas ya usan, como Google Maps, Traductor de Google, Google Lens y más. Y ahora estamos aprovechando la IA para ayudar a las personas a detonar y asistir su creatividad con Bard, aumentar su productividad con herramientas de Workspace y revolucionar la forma en que acceden al conocimiento con la Experiencia de Búsqueda Generativa. En Google Labs se pueden encontrar algunas vistas previas a otros ejemplos y experimentos de aplicaciones útiles.

Para ayudar a abordar los desafíos sociales, estamos aplicando la IA para mitigar y adaptarse al cambio climático: proporcionando pronósticos críticos de inundaciones, ahora a más de 20 países, rastreando los límites de los incendios forestales en tiempo real y ayudando a reducir las emisiones de carbono al disminuir el tráfico intermitente. La estamos aplicando para mejorar la atención médica, incluidos el cuidado materno, los tratamientos contra el cáncer y las pruebas de detección de tuberculosis. Y recientemente anunciamos un nuevo LLM (modelo lingüístico amplio) que podría ser una herramienta útil para los médicos: Med-PaLM. A finales de este año, Data Commons – un sistema que organiza datos de cientos de fuentes para informar los enfoques para los principales desafíos sociales, desde la sostenibilidad hasta la atención médica, el empleo y la economía en muchos países – será accesible a través de Bard, haciéndolo aún más útil.

En nuestra investigación de vanguardia, la IA está ayudando a los científicos a realizar avances audaces en muchos campos de la física, la ciencia de los materiales y la atención médica que beneficiarán a la sociedad. Un ejemplo de esto es el programa AlphaFold de Google DeepMind. AlphaFold puede predecir con precisión la forma 3D de 200 millones de proteínas, casi todas las proteínas catalogadas conocidas por la ciencia, un logro que nos proporcionó el equivalente a casi 400 millones de años de avances en investigación en sólo semanas. La IA también está impulsando el progreso para hacer que la información del mundo sea accesible para las personas en todas partes. Por ejemplo, está habilitando emprendimientos ambiciosos como nuestra Iniciativa de 1000 Idiomas, con la que hemos logrado un progreso emocionante hacia nuestro objetivo de dar soporte a los 1000 idiomas más hablados con un Modelo Universal de Habla entrenado en más de 400 idiomas.

Si bien es emocionante ver estos audaces avances, sabemos que la IA es una tecnología que aún está emergiendo, y aún queda mucho por hacer. También es importante reconocer que la IA tiene el potencial de empeorar los desafíos sociales existentes, como el sesgo injusto, así como plantear nuevos desafíos a medida que avanza y surgen nuevos usos, como ha destacado nuestra propia investigación y la de otros. Es por eso que creemos que es imperativo adoptar un enfoque responsable ante la IA, guiado por los Principios de IA que establecimos por primera vez en 2018. Cada año emitimos informes de avances sobre cómo estamos poniendo en práctica nuestros Principios de IA, profundizando en los ejemplos. Este trabajo continúa, a medida que la IA se vuelve más capaz y aprendemos de los usuarios y los nuevos usos de las tecnologías, y compartimos lo que aprendemos.

Un área que está presente en la mente de muchos, incluyéndonos, es la desinformación. La IA generativa hace que sea más fácil que nunca crear contenido nuevo, pero también plantea preguntas adicionales sobre la confiabilidad de la información en línea. Es por eso que continuamos desarrollando y proporcionando a las personas herramientas para evaluar la información en línea. En los próximos meses, agregaremos una nueva herramienta, Acerca de esta imagen, en la Búsqueda de Google. Acerca de esta imagen proporcionará contexto importante, cómo cuándo y dónde pueden haber aparecido por primera vez imágenes similares y dónde más se ha visto en línea, como en sitios de noticias, verificación de hechos y redes sociales. A finales de este año, Acerca de esta imagen estará disponible en Chrome y Google Lens.

Mientras aplicamos nuestros Principios de IA a nuestros productos, también empezamos a identificar tensiones potenciales cuando se trata de ser audaces y responsables. Por ejemplo, Universal Translator es un servicio experimental de doblaje de video de IA que ayuda a los expertos a traducir la voz de un orador y hacerla coincidir con sus movimientos de labios. Esto tiene un enorme potencial para aumentar la comprensión del aprendizaje; sin embargo, sabiendo los riesgos que podría representar en manos de agentes malintencionados, hemos construido el servicio con barreras para limitar el uso indebido y lo hemos hecho accesible sólo para socios autorizados.

Otra forma en que honramos nuestros Principios de IA es mediante innovaciones para enfrentar los desafíos a medida que surgen. Por ejemplo, somos uno de los primeros en la industria en automatizar las pruebas antagónicas utilizando LLMs, lo que ha mejorado significativamente la velocidad, la calidad y la cobertura de las pruebas, lo que permite a los expertos en seguridad centrarse en casos más difíciles. Para ayudar a abordar la desinformación, pronto integraremos nuevas innovaciones en la procedencia de los datos en nuestros últimos modelos generativos. También estamos progresando en herramientas para detectar audio sintético: en nuestro trabajo en AudioLM, entrenamos un clasificador que puede detectar audio sintético en nuestros modelos de audio con casi un 99% de precisión.

Sabemos que construir IA de manera responsable debe ser un esfuerzo colectivo que involucra a investigadores, científicos sociales, expertos de la industria, gobiernos, creadores, editores y personas que utilizan la IA en su vida cotidiana.

Estamos compartiendo nuestras innovaciones con otros para aumentar el impacto, como en el caso de la API Perspective, que fue desarrollada originalmente por nuestros investigadores en Jigsaw para mitigar la toxicidad que se encuentra en los comentarios en línea. Ahora la estamos aplicando a nuestros LLMs (modelos lingüísticos amplios) incluyendo todos los modelos mencionados en I/O, y los investigadores académicos lo usaron para crear una evaluación estándar de la industria utilizada por todos los LLMs significativos, incluidos los modelos de OpenAI y Anthropic.

A medida que exploramos más a fondo cómo la IA y la creatividad se unen, y la mejor manera de aprovecharla para beneficiar a las personas, estamos colaborando con artistas en proyectos como MusicLM, una nueva forma de describir una idea musical y escucharla cobrar vida. Y para ayudar a apoyar un ecosistema web vibrante, hoy y en el futuro, trabajaremos con la comunidad web en formas de dar a los editores web opciones y control sobre su contenido web.

Parte de lo que hace que la IA sea un área de enfoque tan emocionante es que el potencial para beneficiar a las personas y la sociedad en todas partes es inmenso y palpable, como el imperativo de desarrollarla y usarla de manera responsable. Hay muchas cosas que están cambiando y evolucionando a medida que avanza la IA y más personas la experimentan, comparten, desarrollan y usan. Aprendemos constantemente de nuestra investigación, experiencias, usuarios y la comunidad en general, e incorporamos lo aprendido en nuestro enfoque. De cara al futuro, hay mucho que podemos lograr y mucho que debemos hacer bien, juntos.

Me gustaría agradecer y reconocer el trabajo inspirador y complejo de mis colegas en los equipos de IA Responsable, Innovación Responsable, Google.org, Labs, Jigsaw, Google Research y Google DeepMind.