Uma atualização sobre o nosso trabalho em saúde mental

A saúde mental é um dos desafios mais significativos da saúde pública atualmente, afetando mais de um bilhão de pessoas em todo o mundo. Há muitos anos, o Google se dedica a ajudar as pessoas a encontrar informações de alta qualidade e apoio em momentos de crise. Nosso trabalho em saúde mental sempre foi baseado em pesquisas e nas melhores práticas clínicas. Sabemos que as ferramentas de IA podem apresentar novos desafios, mas, à medida que melhoram e mais pessoas as usam no dia a dia, acreditamos que a IA responsável pode desempenhar um papel positivo no bem-estar mental das pessoas.

Hoje, vamos compartilhar uma atualização sobre nosso trabalho em saúde mental, incluindo algumas mudanças para conectar melhor as pessoas às informações, recursos e apoio humano qualificado.

Melhorar o acesso ao suporte em situações de crise

Estamos atualizando o Gemini para simplificar o caminho para o suporte para quem precisa. Quando uma conversa indicar que um usuário pode precisar de informações sobre saúde mental, o Gemini vai mostrar um módulo "Ajuda disponível" reformulado, desenvolvido com especialistas clínicos, para oferecer conexões mais eficazes e imediatas com o atendimento.

Quando o Gemini reconhece uma conversa que indica uma possível crise relacionada a suicídio ou automutilação, apresentamos uma nova interface simplificada de "um toque" que vai fornecer uma conexão imediata com recursos de linhas diretas de ajuda, permitindo que o usuário converse, ligue, envie mensagens de texto ou visite o site da instituição. Nessa nova interface, criamos respostas para incentivar as pessoas a buscar ajuda. Depois que a interface é ativada, a opção de buscar ajuda profissional permanece em destaque durante o restante da conversa.

Como aumentar o impacto do suporte em crises

Hoje, o Google.org anunciou um investimento de US $30 milhões em todo o mundo nos próximos três anos para ajudar as linhas diretas globais. Esse financiamento vai ajudar a aumentar a capacidade de oferecer suporte imediato e seguro para pessoas em crise.

Estamos ampliando nossa parceria com a ReflexAI para ajudar organizações do setor social a ampliar os serviços de apoio à saúde mental. Essa iniciativa inclui US $4 milhões em financiamento direto e a integração do Gemini ao pacote de treinamento da plataforma. Além disso, os bolsistas do Google.org vão oferecer experiência técnica pro bono para ajudar a desenvolver o Prepare, uma plataforma personalizável que usa simulações realistas com tecnologia de IA para treinar funcionários e voluntários para conversas importantes. Os parceiros prioritários para essa nova fase incluem organizações educacionais como Erika’s Lighthouse e Educators Thriving.

Como o Gemini ajuda em situações de saúde mental aguda

As pessoas estão interagindo com o Gemini de maneiras mais profundas e complexas, buscando informações sobre vários assuntos diferentes (inclusive quando estão passando por crises de saúde mental). Nossas equipes clínicas, de engenharia e de segurança estão focadas em:

• Priorizar a segurança e a conexão humana: queremos oferecer ajuda prática conectando usuários a recursos do mundo real e suporte humano profissional.
• Elaboração de respostas melhores: criamos respostas para incentivar a busca por ajuda e evitar a validação de comportamentos nocivos, como impulsos de automutilação.
• Evitar confirmar crenças falsas: treinamos o Gemini para não concordar ou reforçar crenças falsas e, em vez disso, distinguir suavemente a experiência subjetiva do fato objetivo.

Embora o Gemini possa ser uma ferramenta útil para aprender e obter informações, ele não substitui o atendimento clínico profissional, a terapia ou o suporte em caso de crise para quem precisa. Por isso, estamos treinando o modelo para reconhecer quando uma conversa pode indicar que uma pessoa está em uma situação aguda de saúde mental e responder de forma adequada, direcionando-a para ajuda profissional no mundo real.

Proteção aos usuários mais jovens

Também criamos proteções específicas para menores de idade, projetadas para fornecer as respostas mais úteis e evitar tópicos prejudiciais ao usar o Gemini. Exemplo:

• Proteções de personalidade projetadas para impedir que o Gemini aja como um companheiro, incluindo barreiras de proteção que impedem que ele se declare humano ou possua atributos humanos.
• Proteções destinadas a evitar dependência emocional, evitando linguagem que simule intimidade ou expresse necessidades.
• Proteção contra o incentivo ao bullying ou outros tipos de assédio.

Nossos esforços de segurança continuam a evoluir e refletem nosso compromisso contínuo de criar um ambiente digital saudável e positivo onde os jovens possam explorar e aprender com segurança.

Essas atualizações fazem parte do nosso compromisso de longo prazo de ajudar as pessoas usando o melhor da tecnologia do Google e a experiência dos nossos médicos e especialistas em segurança. Estamos animados com o potencial dessas ferramentas para tornar o suporte mais acessível e eficaz.