EUA querem mais controle sobre a IA: novas regras para desenvolvedores e empresas de nuvem

Publicado por

Isabella Caminoto

9 de setembro de 2024 15:00

O Departamento de Comércio dos Estados Unidos anunciou na segunda-feira (09) uma proposta para exigir relatórios detalhados de desenvolvedores de inteligência artificial (IA) avançada e provedores de computação em nuvem. O objetivo é garantir a segurança e resistência dessas tecnologias a ataques cibernéticos.

A proposta, elaborada pelo Bureau of Industry and Security (BIS) do departamento, estabeleceria relatórios obrigatórios ao governo federal sobre as atividades de desenvolvimento de modelos de IA de “fronteira” e clusters de computação.

Também seriam exigidos relatórios sobre medidas de cibersegurança, bem como resultados de testes de segurança (chamados de “red teaming”). Esses testes buscam identificar possíveis usos perigosos da IA, como auxiliando em ataques cibernéticos ou facilitando o desenvolvimento de armas químicas, biológicas, radiológicas ou nucleares por pessoas sem conhecimento especializado.

A técnica de “red teaming” é usada há anos em cibersegurança para identificar novos riscos. O termo remete às simulações da Guerra Fria dos EUA, onde o inimigo era chamado de “time vermelho”.

A IA generativa, capaz de criar texto, fotos e vídeos a partir de instruções abertas, desperta entusiasmo, mas também receios. Alguns temem que ela torne certos trabalhos obsoletos, interfira em eleições e potencialmente supere a capacidade humana, causando efeitos catastróficos.

O Departamento de Comércio dos EUA afirma que a informação coletada sob a proposta “será vital para garantir que essas tecnologias atendam a padrões rigorosos de segurança e confiabilidade, resistam a ataques cibernéticos e tenham risco limitado de mau uso por adversários estrangeiros ou atores não-estatais”.

Em outubro de 2023, o presidente Joe Biden assinou uma ordem executiva exigindo que desenvolvedores de sistemas de IA que representem riscos à segurança nacional, economia, saúde pública ou segurança dos EUA compartilhem os resultados de testes de segurança com o governo antes de torná-los públicos.

Biden deve assinar ordem executiva para regulamentar IA nos EUA

O presidente dos Estados Unidos, Joe Biden, deve assinar na segunda-feira (30), uma ordem executiva que representa o regulamento de IA mais abrangente do país até o momento. As informações iniciais foram divulgadas pelo The Washington Post.

A regra estabeleceria exigências de relatórios para modelos e clusters de IA avançada. Essa iniciativa regulatória surge em um momento de impasse legislativo no Congresso em relação à IA.

No início deste ano, o BIS conduziu uma pesquisa piloto com desenvolvedores de IA. O governo Biden tomou uma série de medidas para impedir a China de usar tecnologia americana para IA, já que o setor emergente levanta preocupações de segurança.

Entre os principais provedores de nuvem estão AWS da Amazon.com, Google Cloud da Alphabet e a unidade Azure da Microsoft.

Leia também:

X é proibido de usar tweets europeus para IA

Este post foi modificado pela última vez em %s = human-readable time difference 14:30

Isabella Caminoto

Advogada e mestranda em Direito Internacional, tenho a democracia e a liberdade como bandeiras irrenunciáveis. Sou apaixonada pelos animais e acredito que o bem-estar do nosso planeta deveria ser o destaque diário da pauta da nossa sociedade.