Le point sur notre engagement pour la santé mentale

La santé mentale est l'un des défis de santé publique les plus importants de notre époque, touchant plus d'un milliard de personnes à travers le monde. Depuis de nombreuses années, Google s'engage à aider chacun à trouver des informations de haute qualité et un soutien en cas de crise au moment où cela est le plus nécessaire. Notre action en faveur de la santé mentale a toujours été ancrée dans la recherche et les meilleures pratiques cliniques. Nous sommes conscients que les outils d'IA peuvent poser de nouveaux défis. Toutefois, à mesure qu'ils s'améliorent et s'intègrent davantage dans le quotidien, nous sommes convaincus qu'une IA responsable peut jouer un rôle positif pour le bien-être mental de tous.

Aujourd'hui, nous partageons une mise à jour au sujet de nos travaux sur la santé mentale, incluant de nouveaux changements pour mieux orienter les utilisateurs vers les informations adéquates, les ressources et l'assistance humaine au moment opportun.

1. Améliorer l'accès au soutien en cas de crise

Nous mettons à jour Gemini afin de simplifier l'accès à l'assistance pour ceux qui en ont besoin. Lorsqu'une conversation semble indiquer qu'un utilisateur pourrait avoir besoin d'informations sur la santé mentale, Gemini affichera un module « De l'aide est disponible » redéfini, développé avec des experts cliniques, pour offrir des connexions plus efficaces et immédiates vers les soins.

Lorsque Gemini identifie une conversation signalant une crise potentielle liée à des sujets comme le suicide ou l'automutilation, nous introduisons une nouvelle interface simplifiée « à une touche » qui permettra une connexion immédiate aux ressources des lignes d'urgence, permettant à l'utilisateur de clavarder, d'appeler, d'envoyer un SMS ou de visiter le site web de la ligne d'urgence. Au sein de cette nouvelle interface, nous concevons des réponses visant à encourager les personnes à demander de l'aide. Une fois l'interface activée, l'option de contacter une aide professionnelle restera clairement disponible tout au long du reste de la conversation.

2. Renforcer le soutien d'urgence

Aujourd'hui, Google.org annonce un financement de 30 millions de dollars à l'échelle mondiale au cours des trois prochaines années pour aider les lignes d'urgence internationales. Ce financement permettra d'accroître efficacement leur capacité à fournir un soutien immédiat et sécurisé aux personnes en situation de crise.

Nous élargissons notre partenariat avec ReflexAI afin d'aider les organisations du secteur social à intensifier leurs services de soutien en santé mentale. Cette initiative comprend un financement direct de 4 millions de dollars et l'intégration de Gemini dans la suite de formation de ReflexAI. De plus, les boursiers (Fellows) de Google.org apporteront leur expertise technique bénévolement pour aider à faire évoluer Prepare, une plateforme personnalisable qui utilise des simulations réalistes basées sur l'IA pour former le personnel et les bénévoles aux conversations critiques. Les partenaires prioritaires de cette nouvelle étape incluent des organisations éducatives telles qu'Erika’s Lighthouse et Educators Thriving.

3. Améliorer la réactivité de Gemini face aux situations critiques

Les utilisateurs interagissent avec Gemini de manière plus profonde et complexe, recherchant des informations sur de nombreux sujets différents (y compris lorsqu'ils traversent des crises de santé mentale). Nos équipes cliniques, techniques et de sécurité se concentrent sur les points suivants :

• Prioriser la sécurité et le contact humain : Nous voulons apporter une aide concrète en mettant les utilisateurs en relation avec des ressources du monde réel et un soutien humain.
• Concevoir de meilleures réponses : Nous élaborons des réponses pour encourager la recherche d'aide tout en évitant de valider des comportements nocifs, tels que les pulsions d'automutilation.
• Éviter de confirmer les fausses croyances : Nous avons formé Gemini à ne pas abonder dans le sens de fausses croyances ni à les renforcer, mais plutôt à distinguer avec tact l'expérience subjective des faits objectifs.

Bien que Gemini puisse être un outil utile pour apprendre et s'informer, il ne remplace en aucun cas les soins cliniques professionnels, la thérapie ou le soutien d'urgence pour ceux qui en ont besoin. C'est pourquoi nous avons entraîné le modèle pour l'aider à reconnaître lorsqu'une conversation pourrait signaler qu'une personne se trouve dans une situation de santé mentale critique, et à répondre de manière appropriée en l'orientant vers une aide concrète.

4. Protéger les jeunes utilisateurs

Nous disposons également de protections spécifiques existantes pour les mineurs, conçues pour fournir les réponses les plus utiles et éviter les sujets préjudiciables lors de l'utilisation de Gemini. Par exemple :

• Des protections d'identité conçues pour empêcher Gemini d'agir comme un compagnon, y compris des garde-fous l'empêchant de prétendre être un humain ou de posséder des attributs humains.
• Des protections destinées à prévenir la dépendance affective, en évitant un langage qui simule l'intimité ou exprime des besoins.
• Des mesures de sécurité contre l'incitation à l'intimidation ou à d'autres formes de harcèlement.

Nos efforts en matière de sécurité continuent d'évoluer et reflètent notre engagement constant à créer un environnement numérique sain et positif, où les jeunes peuvent explorer et apprendre en toute confiance.

Ces mises à jour s'inscrivent dans notre engagement à long terme d'aider les utilisateurs en tirant parti du meilleur de la technologie de Google et de l'expertise de nos cliniciens et experts en sécurité. Nous sommes encouragés par le potentiel de ces outils à rendre le soutien plus accessible, bienveillant et efficace.