No ano passado, o governador da Califórnia, Gavin Newsom, vetou um projeto de lei que era amplamente popular (entre o público) e amplamente controverso (entre as empresas de tecnologia) que…
Agora ele terá uma segunda chance—desta vez com pelo menos parte da indústria de tecnologia dando-lhe o sinal verde. No sábado, os legisladores da Califórnia aprovaram o Projeto de Lei 53 do Senado, uma legislação histórica que exigiria que as empresas de IA se submetessem a novos testes de segurança.
O Projeto de Lei 53 do Senado, que agora aguarda a assinatura do governador para se tornar lei no estado, exigiria que as empresas que constroem modelos de IA “fronteira”—sistemas que requerem enormes quantidades de dados e poder computacional para operar—providenciassem mais transparência em seus processos. Isso incluiria a divulgação de incidentes de segurança envolvendo comportamentos perigosos ou enganosos por sistemas de IA autônomos, fornecendo mais clareza sobre protocolos de segurança e avaliações de risco, e oferecendo proteções para denunciantes que estão preocupados com os potenciais danos que podem advir dos modelos em que estão trabalhando.
O projeto—que se aplicaria ao trabalho de empresas como OpenAI, Google, xAI, Anthropic, entre outras—certamente foi atenuado em relação a tentativas anteriores de estabelecer uma ampla estrutura de segurança para a indústria de IA. O projeto que Newsom vetou no ano passado, por exemplo, teria estabelecido um “interruptor de emergência” obrigatório para modelos para abordar a possibilidade de eles ficarem fora de controle. Isso não está presente aqui. Uma versão anterior do SB 53 também aplicava os requisitos de segurança a empresas menores, mas isso mudou. Na versão que passou pelo Senado e pela Assembleia, empresas que arrecadam menos de $500 milhões em receita anual só precisam divulgar detalhes de segurança de alto nível em vez de informações mais granulares, segundo o Politico—uma mudança feita em parte a pedido da indústria de tecnologia.
Se isso é suficiente para satisfazer Newsom (ou mais especificamente, satisfazer as empresas de tecnologia das quais ele gostaria de continuar recebendo contribuições de campanha) ainda está por ser visto. A Anthropic recentemente suavizou sua posição sobre a legislação, optando por apoiar o projeto apenas dias antes de ele ser oficialmente aprovado. Mas grupos comerciais como a Consumer Technology Association (CTA) e a Chamber for Progress, que contam entre seus membros empresas como Amazon, Google e Meta, se manifestaram contra o projeto. A OpenAI também sinalizou sua oposição a regulações que a Califórnia tem buscado sem nomear especificamente o SB 53.
Depois que a administração Trump tentou e falhou em implementar uma moratória de 10 anos sobre estados implementando regulações sobre IA, a Califórnia tem a oportunidade de liderar a questão—o que faz sentido, dado que a maioria das empresas na vanguarda do setor está operando dentro de suas fronteiras. Mas esse fato também parece ser parte da razão pela qual Newsom é tão relutante em tomar uma decisão sobre regulações, apesar de toda sua bravata sobre muitas outras questões. Suas ambições políticas requerem dinheiro para operar, e essas empresas têm muito a oferecer.