Soyez les premiers à tester les technologies émergentes IA de Google dans l’appli AI Test Kitchen

Les technologies de l'intelligence artificielle, qui continuent de progresser, peuvent déboucher sur de nouvelles expériences permettant des interactions plus naturelles entre les humains et les ordinateurs. Nous envisageons un avenir où vous pourrez trouver les informations que vous cherchez de la même manière que vous parlez à vos amis et à votre famille. Bien qu'il reste encore beaucoup de travail à faire avant que ce type d'interaction homme-machine ne soit possible, les récentes percées de la recherche dans le domaine des modèles de langage génératif - inspirés des conversations naturelles des gens - accélèrent nos progrès. L'un de nos modèles les plus prometteurs s'appelle LaMDA (Language Model for Dialogue Applications) et, à mesure que nous progressons dans son développement, nous nous sentons fortement responsables de sa réussite.

C'est pourquoi nous avons présenté une application appelée AI Test Kitchen lors de la conférence Google I/O au début de cette année. Elle offre un nouveau moyen de découvrir, d'expérimenter et de donner son avis sur les technologies d'IA émergentes, comme LaMDA. À partir d'aujourd'hui, vous pouvez vous inscrire pour participer à l'AI Test Kitchen au Canada sur Android et progressivement sur iOS. Notez que l'aplication n'est disponible qu'en anglais actuellement.

À l'instar d'une véritable cuisine d'essai, AI Test Kitchen propose un ensemble rotatif de démonstrations expérimentales. Il ne s'agit pas de produits finis mais plutôt d'un aperçu des concepts de produits qui pourraient devenir possible avec l'IA de manière responsable. Notre première série de démonstrations explore les capacités de notre dernière version de LaMDA, qui a subi d'importantes améliorations en matière de sécurité. La première démo, "Imagine It", vous permet de nommer un lieu et vous propose des pistes pour explorer votre imagination. Avec la démo "List It", vous pouvez partager un objectif ou un sujet, et LaMDA le décomposera en une liste de sous-tâches utiles. Et dans la démo "Talk About It (Dogs Edition)", vous pouvez avoir une conversation amusante et ouverte sur les chiens et uniquement sur les chiens, qui explore la capacité de LaMDA à rester dans le sujet même si vous essayez de dévier du sujet.

Évaluer le potentiel de LaMDA et ses risques

En essayant chaque démo, vous constaterez la capacité de LaMDA à générer des réponses créatives. C'est l'une des forces du système, mais cela peut aussi poser des problèmes, car certaines réponses peuvent être inexactes ou inappropriées. Nous avons testé LaMDA en interne l'année dernière, ce qui a permis d'améliorer considérablement sa qualité. Plus récemment, nous avons mené des séries de tests contradictoires pour trouver d'autres failles dans le programme. Nous avons fait appel à des membres experts de l'équipe rouge - des experts en produits qui testent intentionnellement un système dans un esprit contradictoire - qui ont découvert des résultats supplémentaires nuisibles, mais subtils. Par exemple, le modèle peut mal comprendre l'intention derrière les termes d'identité et parfois ne pas produire de réponse lorsqu'ils sont utilisés parce qu'il a du mal à différencier les invites bénignes et adverses. Il peut également produire des réponses nuisibles ou toxiques en se basant sur des préjugés dans ses données de formation, générant des réponses qui stéréotypent et ne représentent pas correctement les personnes en fonction de leur sexe ou de leur origine culturelle. Ces aspects, et bien d'autres, font toujours l'objet de recherches actives.

En réponse à ces défis, nous avons ajouté plusieurs couches de protection à l'AI Test Kitchen. Ce travail a permis de minimiser le risque, mais pas de l'éliminer. Nous avons conçu nos systèmes pour détecter et filtrer automatiquement les mots ou les phrases qui violent nos politiques, lesquelles interdisent aux utilisateurs de générer sciemment du contenu sexuellement explicite, haineux ou offensant, violent, dangereux ou illégal, ou divulguant des informations personnelles. Outre ces filtres de sécurité, nous avons apporté à LaMDA des améliorations en matière de qualité, de sécurité et d'ancrage, qui sont toutes soigneusement mesurées. Nous avons également mis au point des techniques pour que les conversations ne s'écartent pas du sujet, comme des barrières de sécurité pour une technologie qui peut générer un dialogue sans fin et fluide. Lorsque vous utiliserez chaque démo, nous espérons que vous verrez le potentiel de LaMDA, mais gardez également ces défis à l'esprit.

Un progrès responsable, ensemble

Conformément à nos principes de l'IA, nous pensons que le progrès responsable ne se produit pas de manière isolée. Nous sommes arrivés à un point où le retour externe est la prochaine étape, la plus utile, pour améliorer LaMDA. Lorsque vous évaluez chaque réponse de LaMDA comme étant agréable, offensante, hors sujet ou fausse, nous utilisons ces données - qui ne sont pas liées à votre compte Google - pour améliorer et développer nos futurs produits. Nous souhaitons que AI Test Kitchen soit sûr, amusant et éducatif, et nous sommes impatients d'innover ensemble de manière responsable et en toute transparence.