O crescente mundo do suporte à saúde mental impulsionado por IA é um campo minado. De chatbots que dão conselhos médicos perigosamente incorretos a companheiros de IA que incentivam o auto-dano, as manchetes estão repletas de contos de advertência.
Aplicativos de alto perfil como Character.AI e Replika enfrentaram reações negativas por respostas prejudiciais e inadequadas, e estudos acadêmicos levantaram alarmes.
Dois estudos recentes da Universidade de Stanford e da Universidade de Cornell descobriram que chatbots de IA frequentemente estigmatizam condições como dependência de álcool e esquizofrenia, respondem “inadequadamente” a certos comuns e “encorajam o pensamento delirante dos clientes.” Eles alertaram sobre o risco de dependência excessiva da IA sem supervisão humana.
Mas, nesse cenário, Hafeezah Muhammad, uma mulher negra, está construindo algo diferente. E ela está fazendo isso por razões que são dolorosamente pessoais.
“Em outubro de 2020, meu filho, que tinha seis anos, veio até mim e disse que queria se matar,” ela relata, sua voz ainda carregando o peso daquele momento. “Meu coração quebrou. Eu não vi isso vindo.”
Na época, ela era uma executiva em uma empresa nacional de saúde mental, alguém que conhecia o sistema de dentro para fora. No entanto, ela ainda não conseguiu fazer com que seu filho, que tem uma deficiência e está no Medicaid, recebesse atendimento.
“Apenas 30% ou menos dos provedores aceitam Medicaid,” ela explica. “Mais de 50% das crianças nos EUA agora vêm de lares multiculturais, e não havia soluções para nós.”
Ela diz que estava aterrorizada, envergonhada e preocupada com o estigma de uma criança lutando. Então, ela construiu a coisa que não conseguiu encontrar.
Hoje, Muhammad é a fundadora e CEO da Backpack Healthcare, uma provedora com sede em Maryland que atendeu mais de 4.000 pacientes pediátricos, a maioria deles no Medicaid. É uma empresa que aposta seu futuro na ideia radical de que a tecnologia pode apoiar a saúde mental sem substituir o toque humano.
IA Prática, Não um Terapeuta Substituto
No papel, a Backpack parece muitas outras startups de telemedicina. Na realidade, sua abordagem à IA é deliberadamente pragmática, focando em aplicações “chatas”, mas impactantes, que capacitam terapeutas humanos.
Um algoritmo emparelha crianças com o melhor terapeuta possível na primeira tentativa (91% dos pacientes permanecem com sua primeira correspondência). A IA também elabora planos de tratamento e notas de sessão, devolvendo horas que os clínicos costumavam perder com papelada.
“Nossos provedores estavam gastando mais de 20 horas por semana em tarefas administrativas,” explica Muhammad. “Mas eles são os editores.”
Essa abordagem humana no processo é central para a filosofia da Backpack.
O principal diferencial da Backpack reside em suas robustas diretrizes éticas. Seu companheiro de IA disponível 24 horas por dia é representado por “Zipp”, um personagem de cartoon amigável. É uma escolha deliberada para evitar a perigosa “ilusão de empatia” vista em outros chatbots.
“Queríamos deixar claro que isso é uma ferramenta, não um humano,” diz Muhammad.
O investidor Nans Rivat, da Pace Healthcare Capital, chama isso de armadilha da “empatia LLM”, onde os usuários “esquecem que você está falando com uma ferramenta no final das contas.” Ele aponta para casos como Character.AI, onde a falta dessas diretrizes levou a resultados “trágicos.”
Muhammad também é adamante sobre a privacidade dos dados. Ela explica que os dados individuais dos pacientes nunca são compartilhados sem consentimento explícito e assinado. No entanto, a empresa usa dados agregados e anonimizados para relatar tendências, como a rapidez com que um grupo de pacientes foi agendado para atendimento, a seus parceiros.
Mais importante ainda, a Backpack usa seus dados internos para melhorar os resultados clínicos. Ao rastrear métricas como níveis de ansiedade ou depressão, o sistema pode sinalizar um paciente que pode precisar de um nível mais alto de cuidados, garantindo que a tecnologia sirva para ajudar as crianças a se recuperarem mais rapidamente.
Crucialmente, o sistema da Backpack também inclui um protocolo de detecção imediata de crises. Se uma criança digitar uma frase indicando ideação suicida, o chatbot responde instantaneamente com números de linhas de crise e instruções para ligar para o 911. Simultaneamente, uma “mensagem de angústia imediata” é enviada à equipe de resposta a crises da Backpack, que entra em contato diretamente com a família.
“Não estamos tentando substituir um terapeuta,” diz Rivat. “Estamos adicionando uma ferramenta que não existia antes, com segurança incorporada.”
Construindo a Espinha Dorsal Humana
Além de sua tecnologia ética, a Backpack também está enfrentando a escassez nacional de terapeutas. Em muitos casos, os terapeutas, ao contrário dos médicos, tradicionalmente têm que pagar do próprio bolso pelas caras horas de supervisão necessárias para se licenciar.
Para combater isso, a Backpack lançou seu próprio programa de residência de dois anos, remunerado, que cobre esses custos, criando um pipeline de terapeutas dedicados e bem treinados. Mais de 500 pessoas se inscrevem a cada ano, e o programa possui uma impressionante taxa de retenção de 75%.
Em 2021, o então Cirurgião Geral dos EUA, Dr. Vivek H. Murthy, chamou a saúde mental de “a questão de saúde pública definidora do nosso tempo” enquanto se referia à crise de saúde mental que aflige os jovens.
Muhammad não evita a crítica de que a IA poderia piorar as coisas.
“Ou alguém mais construirá essa tecnologia sem as diretrizes corretas, ou eu posso, como mãe, garantir que seja feita da maneira certa,” diz ela.
Seu filho agora tem 11 anos, está prosperando e atua como “Chief Child Innovator” da Backpack.
“Se fizermos nosso trabalho direito, eles não precisarão de nós para sempre,” diz Muhammad. “Damos a eles as ferramentas agora, para que cresçam em adultos resilientes. É como ensinar a andar de bicicleta. Você aprende uma vez e isso se torna parte de quem você é.”