O governador da Califórnia, Gavin Newsom, assinou no dia 10 de setembro duas leis de regulação da inteligência artificial, aprimorando ainda mais o quadro regulatório da Califórnia no campo da inteligência artificial. É notável que estas duas leis receberam o reconhecimento e apoio de grandes empresas de inteligência artificial antes de serem lançadas.
A assinatura das leis coincide com uma crescente atenção ao tema da segurança da inteligência artificial. Anteriormente, Jacob Cockson, um pesquisador que trabalhou na Anthropic, anunciou a sua saída e emitiu um alerta sobre os riscos catastróficos que a indústria da inteligência artificial pode acelerar. Em resposta, Newsom afirmou que as preocupações levantadas pelos eventos recentes confirmam o julgamento de longa data da Califórnia de que a inteligência artificial possui um enorme potencial, mas o seu desenvolvimento e implementação devem ser acompanhados de medidas de segurança substanciais. Newsom também apelou ao governo federal para que apresente rapidamente uma legislação nacional de regulação da inteligência artificial que corresponda à atual situação urgente.
As leis de regulação da inteligência artificial da Califórnia irão elevar os padrões de segurança da indústria
Entre estas duas leis, a SB 813, proposta pelo senador estadual Jerry McNerney, estabelecerá o Conselho de Padrões e Segurança da Inteligência Artificial da Califórnia, responsável por desenvolver padrões de segurança de inteligência artificial de natureza voluntária; enquanto a AB 1405, proposta pela deputada Rebecca Bauer-Kahan, criará um sistema de registro para auditorias de risco de inteligência artificial, regulamentando a certificação de qualificações dos auditores.
No setor, tanto a Anthropic como a OpenAI manifestaram publicamente o seu apoio antes da assinatura das leis. Chris Lehn, responsável pelos assuntos públicos da OpenAI, afirmou que as capacidades atuais da inteligência artificial entraram numa nova fase, e o quadro político correspondente também deve acompanhar este passo. A Anthropic destacou que foi precisamente devido ao seu investimento a longo prazo em segurança que decidiu apoiar a colaboração da indústria de forma legal e verificável, para juntos controlarem o ritmo de lançamento de modelos poderosos. Ambas as empresas afirmaram que irão promover a criação de normas internacionais compatíveis, estabelecendo um consenso sobre questões como avaliação de capacidades, gestão de riscos e preservação do controle humano.