Update zu unserer Arbeit für eine bessere mentale Gesundheit
Die mentale Gesundheit ist heute eine der größten gesellschaftlichen Herausforderungen und ein Thema für weltweit über eine Milliarde Menschen. Seit vielen Jahren setzt sich Google dafür ein, Menschen in den Momenten, in denen sie es am dringendsten benötigen, mit hochwertigen Informationen und passender Unterstützung zu verbinden.
Unsere Arbeit im Bereich der psychischen Gesundheit basiert seit jeher auf Forschung und bewährten klinischen Verfahren. Wir sind uns bewusst, dass KI-Tools neue Herausforderungen mit sich bringen können, aber wir glauben, dass verantwortungsvoller Einsatz von KI einen positiven Beitrag zum mentalen Wohlbefinden leisten kann, je besser diese Tools werden und je mehr Menschen sie im Alltag nutzen.
Heute veröffentlichen wir ein Update zu unserer Arbeit im Bereich der mentalen Gesundheit, einschließlich einiger Neuerungen um Menschen noch besser mit den richtigen Informationen, Materialien und Unterstützung durch Expertinnen und Experten zu verbinden.
1.Besserer Zugang zu Unterstützung
Wir aktualisieren Gemini, um den Zugang zu Unterstützung für Hilfesuchende zu vereinfachen. Wenn ein Gespräch darauf hindeutet, dass ein Nutzer oder eine Nutzerin Informationen zur psychischen Gesundheit benötigt, zeigt Gemini ein mit klinischen Expert*innen entwickeltes, neu gestaltetes Modul „Hilfe ist verfügbar“ an, um eine effektivere und unmittelbarere Verbindung zu Hilfsangeboten herzustellen.
Wenn Gemini eine potenzielle Krise im Zusammenhang mit Suizid oder Selbstverletzung erkennt, führen wir eine neue, vereinfachte „One-Touch“-Schnittstelle ein, die eine sofortige Verbindung zu Hilfsangeboten herstellt. Diese ermöglicht den unmittelbaren Zugriff auf die Hilfsangebote von Krisenhotlines und erlaubt es dem Nutzer*innen, zu chatten, anzurufen, eine SMS zu schreiben oder die Website der Hotline zu besuchen. Innerhalb dieser neuen Oberfläche sind die Antworten so gestaltet, dass sie Menschen ermutigen, Hilfe zu suchen. Nach Aktivierung der Oberfläche bleibt die Option, professionelle Hilfe in Anspruch zu nehmen, während des gesamten weiteren Gesprächs deutlich sichtbar.
2. Unterstützung mit mehr Impact
Google.org kündigt heute an, in den nächsten drei Jahren weltweit 30 Millionen US-Dollar zur Unterstützung globaler Krisenhotlines bereitzustellen. Diese Mittel werden dazu beitragen, ihre Kapazitäten effektiv auszubauen und sofortige und sichere Unterstützung für Menschen in Krisen anzubieten.
Außerdem erweitern wir unsere Partnerschaft mit ReflexAI, um die globale Herausforderung anzugehen, Menschen für die Bereitstellung hochwertiger psychosozialer Dienste auszubilden. Die mehrjährige Zusammenarbeit beinhaltet 4 Millionen US-Dollar an direkter Finanzierung, integriert die neuesten Gemini-Modelle von Google in ReflexAI-Tools und sieht Arbeitszeit von Google.org Fellows mit tiefem technischem Fachwissen vor.
3. Gemini trainieren, in akuten psychischen Krisensituationen zu reagieren
Menschen interagieren intensiver und komplexer mit Gemini und suchen Informationen zu vielen verschiedenen Themen (auch in psychischen Krisensituationen). Unsere klinischen Teams und Sicherheitsteams konzentrieren sich daher auf folgendes:
- Sicherheit und menschliche Verbindung priorisieren: Wir möchten praktische Hilfe leisten, indem wir Nutzer*innen mit Ressourcen aus der realen Welt und menschlicher Unterstützung verbinden.
- Bessere Antworten entwickeln: Unsere Antworten fördern die Inanspruchnahme von Hilfe und vermeiden gleichzeitig die Bestätigung schädlicher Verhaltensweisen wie Selbstverletzungsdrang.
- Falsche Überzeugungen nicht bestätigen: Wir haben Gemini darauf trainiert, falschen Überzeugungen weder zuzustimmen noch sie zu verstärken, sondern subjektive Erfahrungen sanft von objektiven Fakten zu unterscheiden.
Obwohl Gemini ein nützliches Werkzeug zur Informationsbeschaffung und zum Lernen ist, ersetzt es keine professionelle klinische Versorgung, Therapie oder Krisenunterstützung für diejenigen, die sie benötigen. Aus diesem Grund haben wir die Modelle darauf trainiert, zu erkennen, wann eine Unterhaltung darauf hindeuten könnte, dass sich eine Nutzerin oder ein Nutzer in einer akuten psychischen Notsituation befindet – und angemessen zu reagieren, indem wir sie mit realer Hilfe verbinden.
4. Junge Nutzer*innen schützen
Wir haben außerdem spezielle Schutzmechanismen für Minderjährige entwickelt, die bei der Nutzung von Gemini die hilfreichsten Antworten liefern und schädliche Themen vermeiden sollen. Zum Beispiel:
- Schutzmechanismen, die verhindern sollen, dass sich Gemini wie ein Begleiter verhält, einschließlich Maßnahmen, die es ihm untersagen, sich als Mensch auszugeben oder menschliche Eigenschaften zu besitzen.
- Schutzmaßnahmen, die emotionale Abhängigkeit verhindern sollen, indem sie Sprache vermeiden, die Intimität vortäuscht oder Bedürfnisse ausdrückt.
- Vorkehrungen gegen die Förderung von Mobbing oder anderen Formen von Belästigung.
Unsere Sicherheitsmaßnahmen entwickeln sich ständig weiter und spiegeln unser anhaltendes Engagement wider, ein gesundes und positives digitales Umfeld zu schaffen, in dem junge Menschen vertrauensvoll auf Entdeckungsreise gehen und lernen können.
Diese Updates sind Teil unseres langfristigen Engagements, Menschen mithilfe der besten Google-Technologie und dem Fachwissen unserer Kliniker und Sicherheitsexperten zu unterstützen. Wir sind vom Potenzial dieser Tools überzeugt, die Unterstützung zugänglicher, mitfühlender und wirksamer zu gestalten.
