Un aggiornamento sul nostro impegno per la salute mentale

La salute mentale rappresenta una delle sfide più significative del nostro tempo, con un impatto su oltre un miliardo di persone nel mondo. Da molti anni Google è impegnato ad aiutare le persone a trovare informazioni di qualità e supporto nelle situazioni di crisi psicologica o emotiva e nei momenti di maggiore necessità. Il lavoro che facciamo è sempre stato radicato nella ricerca e nella pratica clinica. Siamo consapevoli che gli strumenti di AI possano porre nuove sfide, ma con l’evolversi di queste tecnologie e il loro crescente utilizzo nella vita quotidiana, crediamo che una AI responsabile possa avere un ruolo positivo nel fornire orientamento tempestivo e facilitare l'accesso a risorse di aiuto nei momenti di criticità.

Oggi condividiamo un aggiornamento rispetto al lavoro che stiamo facendo per la salute mentale, che include alcuni cambiamenti per migliorare l’accesso a informazioni, risorse e sostegno da parte delle persone nel momento del bisogno.

1. Migliorare l'accesso al supporto nei momenti di crisi

Stiamo aggiornando Gemini per facilitare l'accesso al supporto psicologico per chi ne ha bisogno. Se una conversazione dovesse indicare che un utente si trova in un momento di grave difficoltà, Gemini mostrerà il modulo riprogettato "Puoi chiedere aiuto". Sviluppato in collaborazione con esperti clinici, questo modulo offre un modo più efficace e immediato per entrare in contatto con i servizi di assistenza.

Quando Gemini riconosce una conversazione che indica una potenziale crisi legata al suicidio o all'autolesionismo, introdurremo una nuova interfaccia semplificata "one-touch" che fornisce una connessione immediata con le linee di assistenza per le emergenze. All'interno di questa interfaccia, le risposte sono progettate per incoraggiare a cercare aiuto. Una volta attivata, l'opzione per contattare un supporto professionale rimarrà chiaramente visibile per il resto della conversazione.

2. Potenziare il supporto per le emergenze

Oggi Google.org annuncia un finanziamento di 30 milioni di dollari a livello globale per i prossimi tre anni, destinato a sostenere le linee di assistenza. Questo finanziamento aiuterà a potenziare la loro capacità di fornire un supporto immediato e sicuro alle persone che attraversano un momento di crisi.

Stiamo inoltre ampliando la nostra partnership con ReflexAI per aiutare le organizzazioni del terzo settore a estendere i loro servizi di supporto per la salute mentale. L'iniziativa include un finanziamento diretto di 4 milioni di dollari e l'integrazione di Gemini nella suite di formazione di ReflexAI. Inoltre, i Google.org Fellows forniranno competenze tecniche pro bono per contribuire all'evoluzione di Prepare, una piattaforma personalizzabile che utilizza simulazioni realistiche basate sull'AI per formare staff e volontari ad affrontare conversazioni delicate. Tra i partner prioritari per questa nuova fase figurano organizzazioni del settore educativo come Erika’s Lighthouse e Educators Thriving.

3. Migliorare le risposte di Gemini nei momenti di crisi

Le persone interagiscono con Gemini in modi sempre più profondi e complessi, cercando informazioni sugli argomenti più disparati, anche quando attraversano momenti di difficoltà legati alla salute mentale. Per questo, i nostri team clinici, di ingegneri e di sicurezza si stanno concentrando su:

• Dare priorità alla sicurezza e alle relazioni umane: Vogliamo offrire un aiuto concreto mettendo in contatto le persone con risorse reali e supporto umano di cui hanno bisogno.
• Sviluppare risposte più efficaci: Progettiamo le risposte per incoraggiare a cercare aiuto, evitando di convalidare comportamenti dannosi come gli impulsi autolesionistici.

Non assecondare convinzioni errate: Il nostro obiettivo è evitare di confermare convinzioni errate, mantenendo sempre una prospettiva ancorata alla realtà e ai fatti.

Sebbene Gemini possa essere uno strumento utile per imparare e ottenere informazioni, non sostituisce l'assistenza clinica professionale, la terapia o il supporto d'emergenza per chi ne ha bisogno. Per questo motivo, abbiamo addestrato il modello affinché riconosca quando una conversazione potrebbe segnalare una situazione critica di salute mentale, rispondendo in modo appropriato e indirizzando l'utente verso un aiuto concreto nel mondo reale.

4. Proteggere gli utenti più giovani

Abbiamo inoltre sviluppato strumenti di protezioni specifici per i minori, progettati per fornire le risposte più utili ed evitare argomenti pericolosi quando utilizzano Gemini. Ad esempio:

• Protezioni sulla "personalità" di Gemini, con regole che impediscono al modello di presentarsi come un essere umano o un compagno fidato, o di affermare di possedere attributi umani.
• Protezioni per prevenire la dipendenza emotiva, evitando un linguaggio che simuli intimità o esprima bisogni personali.
• Misure di sicurezza contro l'incitamento al bullismo o ad altre forme di molestia

Il nostro impegno per la sicurezza è in continua evoluzione e riflette la nostra volontà di creare un ambiente digitale sano e positivo, dove i più giovani possano esplorare e imparare in sicurezza.

Questi aggiornamenti fanno parte del nostro impegno a lungo termine per aiutare le persone, sfruttando il meglio della tecnologia di Google e l'esperienza dei nostri esperti clinici e di sicurezza. Siamo fiduciosi che questi strumenti abbiano il potenziale per rendere il supporto più accessibile, empatico ed efficace.