O senado estadual da Califórnia recentemente deu a aprovação final a um novo projeto de lei de segurança em IA, SB 53, enviando-o ao governador Gavin Newsom para ser assinado ou vetado.
Se isso soa familiar, é porque Newsom vetou outro projeto de lei de segurança em IA, também escrito pelo senador estadual Scott Wiener, no ano passado. Mas o SB 53 é mais restrito do que o anterior SB 1047 de Wiener, com foco em grandes empresas de IA que geram mais de $500 milhões em receita anual.
Tive a oportunidade de discutir o SB 53 com meus colegas Max Zeff e Kirsten Korosec no último episódio do podcast principal da TechCrunch, Equity. Max acredita que o novo projeto de Wiener tem uma chance melhor de se tornar lei, em parte por causa do foco nas grandes empresas, e também porque foi endossado pela empresa de IA Anthropic.
Leia uma prévia da nossa conversa sobre segurança em IA e legislação em nível estadual abaixo. (Eu editei a transcrição para encurtar, esclarecer e nos fazer parecer um pouco mais inteligentes.)
Max: Por que você deve se importar com a legislação de segurança em IA que está passando em uma câmara na Califórnia? Estamos entrando nesta era onde as empresas de IA estão se tornando as empresas mais poderosas do mundo, e isso pode ser potencialmente um dos poucos controles sobre seu poder.
Isso é muito mais restrito do que o SB 1047, que recebeu muita resistência no ano passado. Mas eu acho que o SB 53 ainda impõe algumas regulamentações significativas sobre os laboratórios de IA. Ele os obriga a publicar relatórios de segurança para seus modelos. Se eles tiverem um incidente, basicamente os força a relatar isso ao governo. E também, para os funcionários desses laboratórios, se tiverem preocupações, dá a eles um canal para relatar isso ao governo e não enfrentar retaliações das empresas, mesmo que muitos deles tenham assinado NDAs.
Para mim, isso parece ser um controle potencialmente significativo sobre o poder das empresas de tecnologia, algo que não tivemos realmente nas últimas duas décadas.
Kirsten: Para o seu ponto sobre por que isso importa em nível estadual, é importante pensar no fato de que é a Califórnia. Praticamente todas as principais empresas de IA estão, se não baseadas aqui, têm uma grande presença neste estado. Não que outros estados não importem — eu não quero receber e-mails das pessoas no Colorado ou algo assim — mas importa que seja especificamente a Califórnia porque é realmente um centro de atividade em IA.
Minha pergunta para você, Max, é que parece que há muitas exceções e isenções. É mais restrito, mas é mais complicado do que o projeto anterior?
Max: De algumas maneiras, sim. Eu diria que a principal isenção deste projeto é que ele realmente tenta não se aplicar a pequenas startups. E basicamente, uma das principais controvérsias em torno do último esforço legislativo do senador Scott Weiner, que representa São Francisco e é o autor deste projeto, muitas pessoas disseram que isso poderia prejudicar o ecossistema de startups, o que muitas pessoas contestam porque essa é uma parte tão próspera da economia da Califórnia agora.
Este projeto se aplica especificamente a desenvolvedores de IA que estão gerando mais de $500 milhões de suas modelos de IA. Isso realmente tenta direcionar a OpenAI, Google DeepMind, essas grandes empresas e não a sua startup comum.
Anthony: Pelo que entendi, se você é uma startup menor, você deve compartilhar algumas informações de segurança, mas não quase tanto.
Vale a pena falar sobre o panorama mais amplo em torno da regulamentação de IA e o fato de que uma das grandes mudanças entre o ano passado e este ano é que agora temos um novo presidente. A administração federal adotou uma postura muito mais de não regulamentação e as empresas devem poder fazer o que quiserem, a ponto de terem realmente incluído [linguagem] em projetos de lei de financiamento dizendo que os estados não podem ter sua própria regulamentação de IA.
Eu não acho que nada disso tenha passado até agora, mas potencialmente eles poderiam tentar passar isso no futuro. Então, isso poderia ser outra frente em que a administração Trump e os estados azuis estão lutando.