Governo dos EUA implementa medidas para proteger cidadãos da IA; entenda

A Casa Branca determinou que agências federais dos Estados Unidos implementem medidas de proteção ao usar inteligência artificial (IA) para salvaguardar os direitos e a segurança dos cidadãos. A medida visa mitigar riscos como a discriminação algorítmica e promover a transparência no uso da tecnologia pelo governo.

Publicado por

Isabella Caminoto

28 de março de 2024 15:06

Principais medidas

Transparência e avaliação de impacto: As agências devem monitorar e avaliar o uso da inteligência artificial, com foco na transparência e na mitigação de riscos. Isso inclui a divulgação pública de informações sobre as aplicações de IA do governo, como inventários de uso, métricas e, quando seguro, códigos e dados.
Mitigação de riscos: A Casa Branca busca prevenir a discriminação algorítmica e outros riscos potenciais da IA. Algumas iniciativas específicas incluem:
- Opção de não usar reconhecimento facial em aeroportos;
- Supervisão humana em decisões diagnósticas na área da saúde;
- Compartilhamento de testes de segurança para sistemas de IA relacionados à segurança nacional ou pública.
Outras medidas:
- Garantias de que os passageiros possam optar por não usar o reconhecimento facial em aeroportos sem atrasos;
- Supervisão humana de decisões diagnósticas na área da saúde que utilizam IA;
- Preocupação com a IA generativa e seus impactos no emprego, estabilidade eleitoral e autonomia humana.

Contexto e ações da administração Biden

Em outubro de 2023, o presidente Joe Biden assinou uma ordem executiva para regular o desenvolvimento de IA que possa impactar a segurança nacional ou pública. A ordem exigia que os resultados dos testes de segurança desses sistemas fossem compartilhados com o governo antes de seu lançamento.

Biden ordena que empresas de tecnologia compartilhem resultados de testes de segurança de IA com o governo dos EUA

As empresas de tecnologia serão obrigadas a compartilhar os resultados dos testes dos seus sistemas de inteligência artificial (IA) com o governo dos Estados Unidos antes de serem divulgados. É o que determina uma ordem executiva emitida pela Casa Branca nesta segunda-feira (30).

A administração Biden também tem tomado medidas proativas para aumentar a transparência e a responsabilidade no uso da IA pelo governo, como:

Contratar especialistas em IA;
Exigir que as agências designem oficiais responsáveis pela IA;
Propor regulações para controlar o acesso estrangeiro a dados nos EUA usados para treinar modelos de IA.

Impacto e importância

As medidas tomadas pela Casa Branca representam um passo importante para garantir que a IA seja usada de forma responsável e ética pelo governo dos EUA. A transparência, a avaliação de impacto e a mitigação de riscos são essenciais para proteger os direitos dos cidadãos e garantir que a IA seja usada para o bem da sociedade.

Leia também:

Claude 3 destrona GPT-4; entenda

O modelo Claude 3 Opus da Anthropic ultrapassou o GPT-4 da OpenAI pela primeira vez na tabela de classificação do LMSYS Chatbot Arena.

Este post foi modificado pela última vez em %s = human-readable time difference 15:06

Isabella Caminoto

Advogada e mestranda em Direito Internacional, tenho a democracia e a liberdade como bandeiras irrenunciáveis. Sou apaixonada pelos animais e acredito que o bem-estar do nosso planeta deveria ser o destaque diário da pauta da nossa sociedade.