O Departamento de Comércio dos Estados Unidos anunciou na segunda-feira (09) uma proposta para exigir relatórios detalhados de desenvolvedores de inteligência artificial (IA) avançada e provedores de computação em nuvem. O objetivo é garantir a segurança e resistência dessas tecnologias a ataques cibernéticos.
PUBLICIDADE
A proposta, elaborada pelo Bureau of Industry and Security (BIS) do departamento, estabeleceria relatórios obrigatórios ao governo federal sobre as atividades de desenvolvimento de modelos de IA de “fronteira” e clusters de computação.
Também seriam exigidos relatórios sobre medidas de cibersegurança, bem como resultados de testes de segurança (chamados de “red teaming”). Esses testes buscam identificar possíveis usos perigosos da IA, como auxiliando em ataques cibernéticos ou facilitando o desenvolvimento de armas químicas, biológicas, radiológicas ou nucleares por pessoas sem conhecimento especializado.
A técnica de “red teaming” é usada há anos em cibersegurança para identificar novos riscos. O termo remete às simulações da Guerra Fria dos EUA, onde o inimigo era chamado de “time vermelho”.
PUBLICIDADE
A IA generativa, capaz de criar texto, fotos e vídeos a partir de instruções abertas, desperta entusiasmo, mas também receios. Alguns temem que ela torne certos trabalhos obsoletos, interfira em eleições e potencialmente supere a capacidade humana, causando efeitos catastróficos.
O Departamento de Comércio dos EUA afirma que a informação coletada sob a proposta “será vital para garantir que essas tecnologias atendam a padrões rigorosos de segurança e confiabilidade, resistam a ataques cibernéticos e tenham risco limitado de mau uso por adversários estrangeiros ou atores não-estatais”.
Em outubro de 2023, o presidente Joe Biden assinou uma ordem executiva exigindo que desenvolvedores de sistemas de IA que representem riscos à segurança nacional, economia, saúde pública ou segurança dos EUA compartilhem os resultados de testes de segurança com o governo antes de torná-los públicos.
PUBLICIDADE
A regra estabeleceria exigências de relatórios para modelos e clusters de IA avançada. Essa iniciativa regulatória surge em um momento de impasse legislativo no Congresso em relação à IA.
No início deste ano, o BIS conduziu uma pesquisa piloto com desenvolvedores de IA. O governo Biden tomou uma série de medidas para impedir a China de usar tecnologia americana para IA, já que o setor emergente levanta preocupações de segurança.
Entre os principais provedores de nuvem estão AWS da Amazon.com, Google Cloud da Alphabet e a unidade Azure da Microsoft.
PUBLICIDADE
Leia também:
