Lembra quando os caras do podcast All-In conversaram com o fundador da Uber, Travis Kalanick, sobre “física de vibrações”? Kalanick disse aos espectadores que estava prestes a descobrir novos tipos de ciência ao empurrar seus chatbots de IA para territórios anteriormente desconhecidos.
Era ridículo, é claro, já que essa não é a maneira como um chatbot de IA ou a ciência funcionam. E as ideias de Kalanick foram ridicularizadas sem fim por pessoas nas redes sociais. Mas os senhores do All-In agora parecem estar se distanciando das ideias de Kalanick, até sugerindo que isso poderia estar relacionado ao surgimento da “psicose de IA”, apesar do fato de que eles estavam mais do que felizes em entreter a conversa sem sentido do fundador da Uber quando ele estava no programa.
Kalanick apareceu como convidado no episódio de 11 de julho do All-In, explicando muito seriamente como estava à beira de descobrir coisas emocionantes sobre a física quântica, previamente desconhecidas pela ciência.
“Eu vou por esse caminho com [Chat]GPT ou Grok e começarei a chegar à borda do que é conhecido em física quântica e então estou fazendo o equivalente a codificação de vibrações, exceto que é física de vibrações”, explicou Kalanick. “E estamos nos aproximando do que é conhecido. E estou tentando cutucar e ver se há avanços a serem feitos. E cheguei bem perto de alguns avanços interessantes só fazendo isso.”
A realidade é que chatbots de IA como Grok e ChatGPT não são capazes de entregar novas descobertas em física quântica porque isso está além de suas capacidades. Eles produzem frases remixando e reprocessando seus dados de treinamento, não testando hipóteses. Mas o co-apresentador do All-In, Chamath Palihapitiya, achou que Kalanick estava em algo, levando isso um passo adiante ao insistir que chatbots de IA poderiam simplesmente descobrir a resposta para qualquer problema que você apresentasse.
“Quando esses modelos estão totalmente divorciados de ter que aprender sobre o mundo conhecido e em vez disso podem apenas aprender sinteticamente, então tudo é virado de cabeça para baixo sobre qual é a melhor hipótese que você tem ou qual é a melhor pergunta? Você poderia simplesmente dar a ele algum problema e ele descobriria”, disse Palihapitiya.
Esse tipo de insistência de que chatbots de IA podem resolver qualquer problema é central para seu marketing, mas também prepara os usuários para o fracasso. Ferramentas como Grok e ChatGPT ainda lutam com tarefas básicas, como contar o número de nomes de estados dos EUA que contêm a letra R, porque isso não é o que grandes modelos de linguagem são bons. Mas isso não impediu pessoas como o CEO da OpenAI, Sam Altman, de fazer promessas grandiosas.
O co-apresentador Jason Calacanis foi o único a sugerir que talvez Kalanick estivesse mal interpretando sua própria experiência durante o episódio de 11 de julho. Calacanis perguntou a Kalanick se ele estava “meio que lendo demais e está apenas tentando coisas aleatórias nas margens”. O fundador da Uber reconheceu que não pode realmente vir com uma nova ideia, mas disse que era apenas porque “essas coisas estão tão ligadas ao que é conhecido”. Kalanick comparou isso a puxar um burro teimoso, sugerindo que era, de fato, capaz de novas descobertas se você apenas trabalhasse duro o suficiente nisso.
Você esperaria que essa fosse a última palavra sobre o assunto, dado o fato de que os caras do All-In gostam de evitar controvérsias. Eles infamemente não produziram um episódio do podcast na semana em que Elon Musk e o presidente Trump tiveram sua explosão. (Os anfitriões do podcast são todos amigos de Musk, e o co-anfitrião David Sacks é o czar das criptomoedas de Trump.) Portanto, os ouvintes do novo episódio podem ter ficado um pouco surpresos ao ouvir as ideias estranhas de Kalanick discutidas novamente, especialmente se fosse para zombar dele.
O episódio mais recente do All-In, carregado em 15 de agosto, começou com uma discussão sobre a chamada “psicose de IA”, um termo que não foi definido na literatura médica, mas surgiu na mídia popular para discutir como pessoas que estão lutando com sua saúde mental podem ver seus sintomas exacerbados pelo envolvimento excessivo com a IA. O Gizmodo relatou na semana passada sobre queixas apresentadas à FTC sobre usuários que experimentaram alucinações, incentivados pelo ChatGPT. Uma queixa até contou como um usuário parou de tomar sua medicação porque o ChatGPT disse para ele não tomar ao mesmo tempo em que estava passando por uma quebra delirante.
A psicose de IA não é um termo clínico, e é difícil determinar o número preciso de pessoas que estão experimentando tensões severas em sua saúde mental devido ao uso de chatbots de IA. Mas o criador do ChatGPT, OpenAI, reconheceu que é um problema. E Calacanis abriu o show falando sobre como as pessoas podem ser “um tiro só”, a nova gíria cooptada dos videogames e usada para pessoas que caem muito fundo no buraco da IA. Elas antropomorfizam a IA e falham em entender que é apenas um programa de computador, enviando-se para uma espiral delirante.
“Você pode até ter testemunhado um pouco disso quando Travis [Kalanick] estava no programa há algumas semanas e ele disse que estava passando seu tempo nas bordas ou nas margens de… física”, disse Calacanis. “Isso realmente pode te levar para o buraco do coelho.”
“Você está dizendo que Travis está sofrendo de psicose de IA?” perguntou o co-apresentador David Friedberg.
“Estou dizendo que talvez precisemos fazer um check-up de saúde. Podemos precisar fazer um check-up de saúde porque pessoas inteligentes podem se envolver com essas IAs. Então, talvez tenhamos que fazer um pequeno check-up de bem-estar no nosso garoto TK”, disse Calacanis, aparentemente a sério.
Palihapitiya parecia pensar que o problema subjacente da psicose de IA era apenas um produto da chamada epidemia de solidão, mas ignorou seu próprio papel em alimentar a narrativa de Kalanick de que chatbots de IA eram realmente capazes de novas descobertas na ciência. David Sacks não estava aceitando, insistindo que a psicose de IA era apenas uma histeria moral semelhante aos medos de 20 anos atrás sobre as redes sociais.
“Essa ideia toda de psicose de IA, eu acho que preciso chamar de besteira. Quero dizer, sobre o que estamos falando aqui? Pessoas fazendo muita pesquisa?” Sacks disse, tentando minimizar os relatos na mídia. “Isso parece a histeria moral que foi criada sobre as redes sociais, mas atualizada para a IA.”
Sacks admitiu que havia uma crise de saúde mental nos EUA, mas não acreditava que fosse culpa da IA. E há provavelmente alguma verdade no que Sacks está dizendo. Todas as novas tecnologias incluem algum tipo de agitação social e preocupações sobre o que uma determinada invenção pode significar para o futuro. Mas também não se pode negar que as pessoas estão muito mais solitárias e isoladas desde o advento das redes sociais. E isso pode não ser toda culpa das redes sociais. Mas tecnologias revolucionárias inevitavelmente terão impactos positivos e negativos na sociedade.
A questão é sempre se os positivos superam os negativos. E o júri ainda está, argumentavelmente, fora sobre as redes sociais e chatbots de IA.