O CEO da Anthropic, Dario Amodei, quer que você saiba que ele não é um “apocaliptista” da IA.
Pelo menos, essa é a minha leitura do “mic drop” de um ensaio de ~15.000 palavras que Amodei publicou em seu blog na sexta-feira à noite. (Tentei perguntar ao chatbot Claude da Anthropic se ele concordava, mas, infelizmente, o post excedeu o limite de comprimento do plano gratuito.)
Em linhas gerais, Amodei pinta um quadro de um mundo em que todos os riscos da IA são mitigados e a tecnologia proporciona prosperidade, elevação social e abundância ainda não realizadas. Ele afirma que isso não é para minimizar os lados negativos da IA — no início, Amodei critica (sem mencionar nomes) as empresas de IA que superestimam e, de maneira geral, propagandizam as capacidades de sua tecnologia. Mas pode-se argumentar — e este escritor o faz — que o ensaio se inclina muito na direção do utopismo tecnológico, fazendo afirmações simplesmente não apoiadas por fatos.
Amodei acredita que a “IA poderosa” chegará tão cedo quanto 2026. (Por IA poderosa, ele se refere à IA que é “mais inteligente do que um prêmio Nobel” em campos como biologia e engenharia, e que pode realizar tarefas como provar teoremas matemáticos não resolvidos e escrever “romances extremamente bons.”) Essa IA, diz Amodei, será capaz de controlar qualquer software ou hardware imaginável, incluindo maquinário industrial, e essencialmente fará a maioria dos trabalhos que os humanos fazem hoje — mas melhor.
“[Essa IA] pode engajar em qualquer ação, comunicação ou operações remotas habilitadas por essa interface, incluindo tomar ações na internet, dar ou receber direções de humanos, solicitar materiais, dirigir experimentos, assistir vídeos, fazer vídeos, e assim por diante,” escreve Amodei. “Ela não tem uma corporeidade física (exceto por viver em uma tela de computador), mas pode controlar ferramentas físicas existentes, robôs ou equipamentos de laboratório através de um computador; em teoria, ela poderia até mesmo projetar robôs ou equipamentos para usar.”
Muita coisa precisaria acontecer para alcançar esse ponto. Mesmo a melhor IA hoje não consegue “pensar” da maneira que entendemos; modelos não raciocinam tanto quanto replicam padrões que observaram em seus dados de treinamento. Supondo, para o propósito do argumento de Amodei, que a indústria de IA logo “resolva” o pensamento humano, a robótica acompanhará para permitir que futuras IAs realizem experimentos de laboratório, fabriquem suas próprias ferramentas e assim por diante? A fragilidade dos robôs atuais sugere que é uma aposta arriscada.
No entanto, Amodei é otimista — muito otimista.
Ele acredita que a IA poderia, em 7 a 12 anos, ajudar a tratar quase todas as doenças infecciosas, eliminar a maioria dos cânceres, curar distúrbios genéticos e impedir o Alzheimer em seus estágios mais iniciais. Nos próximos 5 a 10 anos, Amodei pensa que condições como PTSD, depressão, esquizofrenia e vício serão curadas com medicamentos elaborados por IA, ou geneticamente prevenidas por meio de triagem embrionária (uma opinião controversa), e que medicamentos desenvolvidos por IA também existirão que “ajustem a função cognitiva e o estado emocional” para “fazer [nossos cérebros] se comportarem um pouco melhor e terem uma experiência mais gratificante no dia a dia.”
Se isso acontecer, Amodei espera que a expectativa de vida média dobre para 150 anos.
“Minha previsão básica é que a biologia e a medicina habilitadas por IA nos permitirão comprimir o progresso que os biólogos humanos teriam alcançado nos próximos 50-100 anos em 5-10 anos,” escreve. “Vou me referir a isso como o ‘século 21 comprimido’: a ideia de que, após o desenvolvimento da IA poderosa, faremos em poucos anos todo o progresso em biologia e medicina que teríamos feito em todo o século 21.”
Essas parecem ser exageros, também, considerando que a IA ainda não transformou radicalmente a medicina — e pode não fazê-lo por um bom tempo, ou nunca. Mesmo que a IA reduza o trabalho e o custo envolvidos em levar um medicamento à fase pré-clínica, ele pode falhar em uma fase posterior, como os medicamentos projetados por humanos. Considere que a IA implantada na saúde hoje demonstrou ser tendenciosa e arriscada de várias maneiras, ou, de outra forma, incrivelmente difícil de implementar em configurações clínicas e laboratoriais existentes. Sugerir que todos esses problemas e mais serão resolvidos em aproximadamente uma década parece, bem… aspiracional, para usar uma palavra.
Mas Amodei não para por aí.
A IA poderia resolver a fome mundial, ele afirma. Poderia mudar a maré contra a mudança climática. E poderia transformar as economias na maioria dos países em desenvolvimento; Amodei acredita que a IA pode trazer o PIB per capita da África Subsaariana (US$ 1.701 em 2022) para o PIB per capita da China (US$ 12.720 em 2022) em 5-10 anos.
Essas são declarações ousadas, para dizer o mínimo, embora provavelmente familiares para qualquer pessoa que tenha ouvido seguidores do movimento “Singularity”, que espera resultados semelhantes. Para o crédito de Amodei, ele reconhece que isso exigiria “um grande esforço em saúde global, filantropia, [e] advocacy política.”
Amodei postula que esse advocacy ocorrerá porque está no melhor interesse econômico do mundo. Mas eu apontaria que isso não foi o caso historicamente em um aspecto importante: muitos dos trabalhadores responsáveis por rotular os conjuntos de dados usados para treinar a IA são pagos muito abaixo do salário mínimo enquanto seus empregadores arrecadam dezenas de milhões — ou centenas de milhões — de dólares com os resultados.
Amodei toca, brevemente, nos perigos da IA para a sociedade civil, propondo que uma coalizão de democracias assegure a cadeia de suprimentos da IA e bloqueie adversários que pretendem usar a IA para fins prejudiciais dos meios de produção de IA poderosa (semicondutores, etc.). Na mesma respiração, ele propõe que a IA — nas mãos certas — poderia ser usada para “minar governos repressivos” e até mesmo reduzir o viés no sistema legal. (A IA historicamente exacerbou preconceitos no sistema legal.)
“Uma implementação verdadeiramente madura e bem-sucedida da IA tem o potencial de reduzir o viés e ser mais justa para todos,” escreve Amodei.
Portanto, se a IA assumir todos os trabalhos concebíveis e o fizer melhor, isso não deixará os humanos em apuros, do ponto de vista econômico? Amodei admite que, sim, isso aconteceria — e que, nesse ponto, a sociedade precisaria ter uma conversa sobre “como a economia deveria ser organizada.” Mas ele não propõe uma solução.
“As pessoas realmente querem um senso de realização, até mesmo um senso de competição, e em um mundo pós-IA será perfeitamente possível passar anos tentando uma tarefa muito difícil com uma estratégia complexa, semelhante ao que as pessoas fazem hoje quando embarcam em projetos de pesquisa, tentam se tornar atores de Hollywood ou fundar empresas,” escreve. “Os fatos de (a) uma IA em algum lugar poderia, em princípio, fazer melhor essa tarefa, e (b) essa tarefa não é mais um elemento economicamente recompensado de uma economia global, não parecem importar muito para mim.”
Amodei sugere, ao concluir, que a IA é simplesmente um acelerador — que os humanos naturalmente tendem a “governo da lei, democracia e valores do Iluminismo.” Mas ao fazer isso, ele ignora os muitos custos da IA. A IA está projetada para ter — e já tem — um grande impacto ambiental. E está criando desigualdade. O economista vencedor do prêmio Nobel, Joseph Stiglitz, e outros observaram que as disrupções trabalhistas causadas pela IA poderiam concentrar ainda mais a riqueza nas mãos das empresas e deixar os trabalhadores com menos poder do que nunca.
Essas empresas incluem a Anthropic, tão relutante quanto Amodei em admitir. (Ele menciona a Anthropic apenas seis vezes ao longo de seu ensaio.) A Anthropic é uma empresa, afinal — uma, segundo relatos, avaliada em cerca de US$ 40 bilhões. E aqueles que se beneficiam de sua tecnologia de IA são, em grande parte, corporações cuja única responsabilidade é aumentar os retornos para os acionistas — e não melhorar a humanidade.
O ensaio parece ter um tempo cínico, de fato, dado que se diz que a Anthropic está no processo de levantar bilhões de dólares. O CEO da OpenAI, Sam Altman, publicou um manifesto tecnoptimista semelhante pouco antes de a OpenAI fechar uma rodada de financiamento de US$ 6,5 bilhões.
Talvez seja uma coincidência. Por outro lado, Amodei não é um filantropo. Ele, como qualquer CEO, tem um produto a vender. Acontece que seu produto vai salvar o mundo (ou assim ele quer que você acredite) — e aqueles que acreditam de outra forma correm o risco de ficar para trás.