Biden ordena que empresas de tecnologia compartilhem resultados de testes de segurança de IA com o governo dos EUA

As empresas de tecnologia serão obrigadas a compartilhar os resultados dos testes dos seus sistemas de inteligência artificial (IA) com o governo dos Estados Unidos antes de serem divulgados. É o que determina uma ordem executiva emitida pela Casa Branca nesta segunda-feira (30).

Publicado por

Isabella Caminoto

30 de outubro de 2023 12:32

O governo dos EUA também estabelecerá diretrizes de teste rigorosas, antes da cúpula histórica de segurança de IA, que acontecerá nos dias 1 e 2 de novembro no Reino Unido.

As diretivas de IA emitidas pela Casa Branca incluem:

As empresas que desenvolvem modelos de IA que representam uma ameaça à segurança nacional, à segurança econômica ou à saúde e segurança devem partilhar os resultados dos seus testes de segurança com o governo;
O governo estabelecerá diretrizes para os chamados ‘testes de equipe vermelha’, onde os avaliadores imitam atores desonestos nos seus procedimentos de teste;
Serão emitidas orientações oficiais sobre marcas d’água em conteúdo criado por IA para lidar com o risco de danos causados por fraude e deepfakes;
Serão desenvolvidos novos padrões para a triagem de síntese biológica para mitigar a ameaça dos sistemas de IA que ajudam a criar armas biológicas.

Chatbots de IA podem ajudar a planejar ataques com armas biológicas, revela estudo

Os modelos de inteligência artificial (IA) que sustentam os chatbots poderiam ajudar a planejar ataques com armas biológicas, revelou uma pesquisa de um grupo dos Estados Unidos.

A Casa Branca disse que o compartilhamento dos resultados dos testes de modelos poderosos “garantiria que os sistemas de IA sejam seguros e confiáveis antes que as empresas os tornem públicos”.

A ordem também abrange áreas como privacidade, direitos civis, proteção ao consumidor e direitos dos trabalhadores.

As obrigações determinadas pela ordem serão implementadas e cumpridas no intervalo de 90 a 365 dias, com os itens de segurança e proteção enfrentando os prazos mais curtos.

Leia também:

Deputada denuncia ‘racismo algorítmico’ após IA criar imagem de uma mulher negra armada numa favela

A deputada estadual do Rio de Janeiro, Renata Souza (PSOL), compartilhou em suas redes sociais uma denúncia de “racismo algorítmico”. Ao solicitar uma ferramenta de inteligência artificial (IA) que criasse a imagem de uma mulher negra em uma favela, ela recebeu uma ilustração de uma personagem com uma arma de fogo nas mãos.

Este post foi modificado pela última vez em %s = human-readable time difference 12:38

Isabella Caminoto

Advogada e mestranda em Direito Internacional, tenho a democracia e a liberdade como bandeiras irrenunciáveis. Sou apaixonada pelos animais e acredito que o bem-estar do nosso planeta deveria ser o destaque diário da pauta da nossa sociedade.