Governador da Califórnia veta controverso projeto de lei sobre segurança de IA

O governador da Califórnia, Gavin Newsom, vetou no domingo (29) um projeto de lei sobre segurança de inteligência artificial (IA) altamente contestado após a indústria de tecnologia levantar objeções, dizendo que poderia levar empresas de IA a saírem do estado e prejudicar a inovação.

Newsom disse que o projeto de lei “não leva em conta se um sistema de IA é implantado em ambientes de alto risco, envolve tomada de decisões críticas ou o uso de dados sensíveis” e aplicaria “padrões rigorosos até mesmo para as funções mais básicas – desde que um grande sistema o implante”.

Newsom disse que pediu a especialistas líderes em IA generativa para ajudar a Califórnia a “desenvolver salvaguardas viáveis” que se concentrem em “desenvolver uma análise de trajetória empírica e baseada em ciência”. Ele também ordenou que as agências estaduais expandam sua avaliação dos riscos de possíveis eventos catastróficos relacionados ao uso de IA.

A IA generativa – que pode criar texto, fotos e vídeos em resposta a solicitações abertas – despertou entusiasmo e também temores de que possa tornar alguns empregos obsoletos, prejudicar as eleições e potencialmente dominar os humanos e ter efeitos catastróficos.

O autor do projeto de lei, o senador estadual democrata Scott Wiener, disse que a legislação era necessária para proteger o público antes que os avanços na IA se tornem incontroláveis ou difíceis de controlar. A indústria de IA está crescendo rapidamente na Califórnia e alguns líderes questionaram o futuro dessas empresas no estado se o projeto de lei se tornasse lei.

Wiener disse no domingo que o veto torna a Califórnia menos segura e significa que “empresas que visam criar uma tecnologia extremamente poderosa não enfrentam restrições vinculativas”. Ele acrescentou que “compromissos voluntários da indústria não são aplicáveis e raramente funcionam bem para o público”.

“Não podemos esperar que ocorra uma grande catástrofe antes de tomar medidas para proteger o público”, disse Newsom, mas acrescentou que não concordava que “devemos nos contentar com uma solução que não seja informada por uma análise de trajetória empírica de sistemas e capacidades de IA”.

Newsom disse que trabalhará com a legislatura em uma legislação sobre IA durante sua próxima sessão. Isso ocorre enquanto a legislação no Congresso dos EUA para estabelecer salvaguardas está estagnada e o governo Biden está avançando com propostas de supervisão regulatória de IA.

Newsom disse que “uma abordagem apenas para a Califórnia pode ser justificada – especialmente na ausência de ação federal por parte do Congresso”.

A Câmara de Progresso, uma coligação da indústria de tecnologia, elogiou o veto de Newsom, dizendo que “a economia tecnológica da Califórnia sempre prosperou com competição e abertura”.

Entre outras coisas, a medida teria exigido testes de segurança para muitos dos modelos de IA mais avançados que custam mais de US$ 100 milhões para desenvolver ou aqueles que requerem uma quantidade definida de poder de computação. Os desenvolvedores de software de IA operando no estado também precisariam delinear métodos para desligar os modelos de IA, efetivamente um botão de desligamento.

O projeto de lei teria estabelecido uma entidade estadual para supervisionar o desenvolvimento dos chamados “Modelos Fronteira” que excedem as capacidades presentes nos modelos existentes mais avançados.

O projeto de lei enfrentou forte oposição de uma ampla gama de grupos. O Google da Alphabet, a OpenAI apoiada pela Microsoft e a Meta Platforms, todas desenvolvendo modelos de IA generativa, haviam expressado suas preocupações com a proposta.

Alguns democratas no Congresso dos EUA, incluindo a representante Nancy Pelosi, também se opuseram a ela. Proponentes incluíam o CEO da Tesla, Elon Musk, que também dirige uma empresa de IA chamada xAI. A Anthropic, apoiada pela Amazon, disse que os benefícios do projeto de lei provavelmente superam os custos, embora tenha acrescentado que ainda havia alguns aspectos que pareciam preocupantes ou ambíguos.

Newsom assinou separadamente uma legislação exigindo que o estado avalie ameaças potenciais impostas pela IA Generativa à infraestrutura crítica da Califórnia.

O estado está analisando riscos à infraestrutura energética e anteriormente convocou fornecedores de energia e realizará a mesma avaliação de riscos com fornecedores de infraestrutura hídrica no próximo ano e posteriormente com o setor de comunicações, disse Newsom.

Leia também: