No mês passado, um juiz federal ordenou que a OpenAI mantivesse indefinidamente todos os dados do ChatGPT como parte de um processo de violação de direitos autorais em andamento. Em resposta, a OpenAI entrou com um recurso para derrubar a decisão, afirmando que a “ordem abrangente e sem precedentes” viola a privacidade de seus usuários.
O New York Times processou tanto a OpenAI quanto a Microsoft em 2023, alegando que as empresas violaram direitos autorais ao usar seus artigos para treinar seus modelos de linguagem. No entanto, a OpenAI afirmou que o caso do Times é “sem mérito” e argumentou que o treinamento se enquadra no “uso justo”.
Anteriormente, a OpenAI mantinha logs de bate-papo apenas para usuários do ChatGPT Free, Plus e Pro que não optaram por não participar. No entanto, em maio, o Times e outras organizações de notícias alegaram que a OpenAI estava engajando em uma destruição “substancial e contínua” de logs de bate-papo que poderiam conter evidências de violações de direitos autorais. A juíza Ona Wang respondeu ordenando que o ChatGPT mantivesse e segregasse todos os logs do ChatGPT que seriam excluídos.
Em um recurso judicial, a OpenAI argumentou que a ordem de Wang “impede a OpenAI de respeitar as decisões de privacidade de seus usuários”. De acordo com o Ars Technica, a empresa também afirmou que as acusações do Times eram “infundadas”, escrevendo: “A OpenAI não ‘destruiu’ nenhum dado e certamente não excluiu nenhum dado em resposta a eventos de litígios. A ordem parece ter assumido incorretamente o contrário.”
“O [Times] e outros demandantes fizeram uma demanda abrangente e desnecessária em seu processo infundado contra nós”, disse o COO Brad Lightcap em um comunicado. Ele acrescentou que a demanda para que a OpenAI retenha todos os dados “abandonam normas de privacidade de longa data e enfraquecem as proteções de privacidade.”
No X, o CEO Sam Altman escreveu que o “pedido inadequado… estabelece um mau precedente”. Ele também acrescentou que o caso destaca a necessidade de “privacidade em IA”, onde “conversar com uma IA deve ser como conversar com um advogado ou um médico.”
Temos pensado recentemente sobre a necessidade de algo como “privacidade em IA”; isso realmente acelera a necessidade de ter a conversa.
Na minha opinião, conversar com uma IA deve ser como conversar com um advogado ou um médico.
Espero que a sociedade descubra isso em breve.
— Sam Altman (@sama) 6 de junho de 2025
A ordem do tribunal desencadeou uma onda inicial de pânico. Segundo o Ars Technica, o recurso da OpenAI citou postagens em redes sociais do LinkedIn e do X onde os usuários expressaram preocupações sobre sua privacidade. No LinkedIn, uma pessoa alertou seus clientes para que fossem “extremamente cuidadosos” sobre as informações que compartilhavam com o ChatGPT. Em outro exemplo, alguém tuitou: “Wang aparentemente acha que as preocupações de direitos autorais do NY Times superam a privacidade de TODOS os USUÁRIOS DA @OPENAI – insano!!!”
Por um lado, eu não consigo imaginar ter um log do ChatGPT com dados sensíveis o suficiente para me importar se alguém mais os lesse. No entanto, as pessoas usam o ChatGPT como terapeuta, para conselhos de vida e até o tratam como um parceiro romântico. Independentemente de eu pessoalmente fazer o mesmo, elas merecem o direito de manter esse conteúdo privado.
Ao mesmo tempo, o caso do Times não é tão infundado quanto a OpenAI afirma. Vale a pena discutir como a inteligência artificial é treinada. Lembre-se quando a Clearview AI raspou 30 bilhões de imagens do Facebook para treinar seu reconhecimento facial? Ou relatórios de que o governo federal usa imagens de pessoas vulneráveis para testar softwares de reconhecimento facial? Sim, esses exemplos existem fora do jornalismo e da lei de direitos autorais. No entanto, isso destaca a necessidade de conversas sobre se empresas como a OpenAI deveriam precisar de consentimento explícito para utilizar conteúdo em vez de raspar o que quiserem da internet.