Uma coalizão cada vez mais diversificada está se formando em oposição ao plano da OpenAI de se reestruturar como uma empresa totalmente lucrativa.
Na segunda-feira, a Encode, uma organização de defesa liderada por jovens que representa jovens em dezenas de países, apresentou um parecer amicus em apoio ao processo em andamento de Elon Musk para impedir a metamorfose corporativa da OpenAI. O arquivamento veio com o apoio de um dos maiores nomes do campo, o vencedor do Prêmio Nobel e do Prêmio Turing, Geoffrey Hinton, que é frequentemente chamado de o pai da IA.
“A OpenAI foi fundada como uma organização sem fins lucrativos explicitamente focada em segurança e fez uma variedade de promessas relacionadas à segurança em seu estatuto”, disse Hinton em uma declaração divulgada pela Encode junto com seu parecer. “Ela recebeu numerosos benefícios fiscais e outros de seu status de sem fins lucrativos. Permitir que ela destrua tudo isso quando se torna inconveniente envia uma mensagem muito ruim para outros atores no ecossistema.”
Hinton disse recentemente à BBC que acredita haver uma chance de “10% a 20%” de que a IA leve à extinção humana dentro dos próximos 30 anos. Anteriormente, Hinton foi mais modesto, colocando as chances em apenas 10%.
Atualmente, a OpenAI está estruturada como uma empresa com fins lucrativos controlada por um conselho sem fins lucrativos, o que impõe algumas restrições à sua missão e capacidade de arrecadar dinheiro e compensar investidores. A empresa anunciou formalmente sua intenção de se reestruturar como uma corporação pública de benefício de Delaware na semana passada, embora a mudança já fosse esperada há algum tempo e Musk, que foi cofundador da OpenAI, tenha apresentado seu processo federal buscando uma liminar para impedi-la em novembro.
A Encode argumenta que a mudança planejada da OpenAI de uma organização sem fins lucrativos para uma corporação pública de benefício de Delaware “minaria compromissos específicos focados em segurança que a organização sem fins lucrativos fez ao público”. Em particular, o parecer questiona se uma corporação com fins lucrativos poderia cumprir a promessa da OpenAI de “parar de competir e começar a ajudar” qualquer organização alinhada a valores que pareça próxima de construir inteligência geral artificial antes que o faça.
“Hoje, um punhado de empresas está correndo para desenvolver e implantar IA transformadora, internalizando os lucros, mas externalizando as consequências para toda a humanidade”, disse Sneha Revanur, presidente e fundadora da Encode, em uma declaração. “Os tribunais devem intervir para garantir que o desenvolvimento da IA sirva ao interesse público.”
Por sua parte, a OpenAI instou o tribunal a rejeitar o processo de Musk, argumentando que ele não tem legitimidade e está buscando obter uma vantagem competitiva injusta para sua própria startup de IA, a xAI. A OpenAI também divulgou uma série de e-mails e outras mensagens de Musk, incluindo várias que a empresa disse mostrar que Musk defendia a conversão da organização em uma empresa com fins lucrativos desde 2017.