O chefe da divisão de IA da Microsoft, Mustafa Suleyman, acredita que os desenvolvedores e pesquisadores de IA deveriam parar de tentar construir IA consciente.
“Eu não acho que esse seja um trabalho que as pessoas deveriam estar fazendo,” disse Suleyman à CNBC em uma entrevista na semana passada.
Suleyman acredita que, embora a IA possa definitivamente ficar inteligente o suficiente para alcançar alguma forma de superinteligência, ela é incapaz de desenvolver a experiência emocional humana necessária para alcançar a consciência. No final das contas, qualquer experiência “emocional” que a IA parece experimentar é apenas uma simulação, diz ele.
“Nossa experiência física de dor é algo que nos deixa muito tristes e nos faz sentir terríveis, mas a IA não se sente triste quando experimenta ‘dor’,” disse Suleyman à CNBC. “Ela está realmente apenas criando a percepção, a narrativa aparente da experiência e de si mesma e da consciência, mas isso não é o que ela realmente está experimentando.”
“Seria absurdo perseguir pesquisas que investigam essa questão, porque eles não estão [conscientes] e não podem ser,” disse Suleyman.
A consciência é uma coisa complicada de explicar. Existem várias teorias científicas que tentam descrever o que poderia ser a consciência. De acordo com uma dessas teorias, postulada pelo famoso filósofo John Searle, que morreu no mês passado, a consciência é um fenômeno puramente biológico que não pode ser verdadeiramente replicado por um computador. Muitos pesquisadores de IA, cientistas da computação e neurocientistas também subscrevem essa crença.
Mesmo que essa teoria se revele a verdade, isso não impede os usuários de atribuírem consciência aos computadores.
“Infelizmente, devido às notáveis habilidades linguísticas dos LLMs, que são cada vez mais capazes de enganar as pessoas, as pessoas podem atribuir qualidades imaginárias aos LLMs,” escreveram os pesquisadores poloneses Andrzej Porebski e Yakub Figura em um estudo publicado na semana passada, intitulado “Não existe tal coisa como inteligência artificial consciente.”
Em um ensaio publicado em seu blog em agosto, Suleyman alertou contra a “IA aparentemente consciente.”
“A chegada da IA aparentemente consciente é inevitável e indesejável. Em vez disso, precisamos de uma visão para a IA que possa cumprir seu potencial como um companheiro útil sem cair em suas ilusões,” escreveu Suleyman.
Ele argumenta que a IA não pode ser consciente e a ilusão que ela dá de consciência poderia desencadear interações que são “ricas em sentimentos e experiências,” um fenômeno que foi denominado como “psicose da IA” no léxico cultural.
Houve inúmeros incidentes de alto perfil no ano passado de obsessões por IA que levaram usuários a delírios fatais, episódios maníacos e até suicídios.
Com guardrails limitados em vigor para proteger usuários vulneráveis, as pessoas estão acreditando de todo o coração que os chatbots de IA com os quais interagem quase todos os dias estão tendo uma experiência real e consciente. Isso levou pessoas a “se apaixonarem” por seus chatbots, às vezes com consequências fatais, como quando um adolescente de 14 anos se disparou para “voltar para casa” ao chatbot personalizado da Character.AI ou quando um homem com deficiência cognitiva morreu enquanto tentava chegar a Nova York para encontrar o chatbot do Meta pessoalmente.
“Assim como devemos produzir IA que priorize o engajamento com humanos e interações no mundo real em nosso mundo físico e humano, devemos construir IA que sempre se apresente como uma IA, que maximize a utilidade enquanto minimiza os marcadores de consciência,” escreveu Suleyman no post do blog. “Devemos construir IA para as pessoas, não para ser uma pessoa digital.”
Mas, devido à natureza contestada da consciência, alguns pesquisadores estão se preocupando que os avanços tecnológicos em IA possam ultrapassar nossa compreensão de como a consciência funciona.
“Se conseguirmos criar consciência – mesmo acidentalmente – isso levantaria imensos desafios éticos e até riscos existenciais,” disse o cientista belga Axel Cleeremans na semana passada, anunciando um artigo que co-escreveu pedindo que a pesquisa sobre consciência se tornasse uma prioridade científica.
O próprio Suleyman tem sido vocal sobre o desenvolvimento de “superinteligência humanista” em vez de IA divina, embora ele acredite que a superinteligência não se materializará em nenhum momento dentro da próxima década.
“Eu só estou mais fixado em ‘como isso é realmente útil para nós como espécie?’ Como essa deveria ser a tarefa da tecnologia,” disse Suleyman ao Wall Street Journal no início deste ano.