Aqui está um lembrete rápido antes de você continuar seu dia: Pense duas vezes antes de enviar seus dados médicos privados para um chatbot de IA.
As pessoas estão frequentemente recorrendo a chatbots de IA generativa, como o ChatGPT da OpenAI e o Gemini do Google, para fazer perguntas sobre suas preocupações médicas e para entender melhor sua saúde. Alguns têm confiado em aplicativos questionáveis que usam IA para decidir se os genitais de alguém estão livres de doenças, por exemplo. E, mais recentemente, desde outubro, usuários na rede social X foram incentivados a enviar suas radiografias, ressonâncias magnéticas e tomografias PET para o chatbot de IA Grok da plataforma para ajudar a interpretar seus resultados.
Os dados médicos são uma categoria especial com proteções federais que, na maior parte, apenas você pode escolher contornar. Mas só porque você pode, não significa que você deve. Defensores da segurança e privacidade há muito alertam que qualquer dado sensível enviado pode ser usado para treinar modelos de IA e arriscar expor suas informações privadas e sensíveis no futuro.
Modelos de IA generativa são frequentemente treinados com os dados que recebem, sob a premissa de que os dados enviados ajudam a construir a informação e a precisão das saídas do modelo. Mas nem sempre é claro como e para quais propósitos os dados enviados estão sendo usados, ou com quem os dados são compartilhados — e as empresas podem mudar de ideia. Você deve confiar nas empresas, em grande parte, apenas em sua palavra.
As pessoas encontraram seus próprios registros médicos privados em conjuntos de dados de treinamento de IA — e isso significa que qualquer outra pessoa pode, incluindo prestadores de serviços de saúde, potenciais empregadores futuros ou agências governamentais. E, a maioria dos aplicativos para consumidores não está coberta pela lei de privacidade de saúde dos EUA, HIPAA, oferecendo nenhuma proteção para seus dados enviados.
O proprietário da X, Elon Musk, que em uma postagem incentivou os usuários a enviar suas imagens médicas para o Grok, admitiu que os resultados do Grok estão “ainda em estágio inicial”, mas que o modelo de IA “se tornará extremamente bom”. Ao pedir aos usuários que enviem suas imagens médicas para o Grok, o objetivo é que o modelo de IA melhore ao longo do tempo e se torne capaz de interpretar exames médicos com precisão consistente. Quanto a quem tem acesso a esses dados do Grok, não está claro; como observado em outros lugares, a política de privacidade do Grok diz que a X compartilha algumas informações pessoais dos usuários com um número não especificado de empresas “relacionadas”.
É bom lembrar que o que vai para a internet nunca sai da internet.