Biden ordena que empresas de tecnologia compartilhem resultados de testes de segurança de IA com o governo dos EUA

O governo dos EUA também estabelecerá diretrizes de teste rigorosas, antes da cúpula histórica de segurança de IA, que acontecerá nos dias 1 e 2 de novembro no Reino Unido.

As diretivas de IA emitidas pela Casa Branca incluem:

• As empresas que desenvolvem modelos de IA que representam uma ameaça à segurança nacional, à segurança econômica ou à saúde e segurança devem partilhar os resultados dos seus testes de segurança com o governo;
• O governo estabelecerá diretrizes para os chamados ‘testes de equipe vermelha’, onde os avaliadores imitam atores desonestos nos seus procedimentos de teste;
• Serão emitidas orientações oficiais sobre marcas d’água em conteúdo criado por IA para lidar com o risco de danos causados ​​por fraude e deepfakes;
• Serão desenvolvidos novos padrões para a triagem de síntese biológica para mitigar a ameaça dos sistemas de IA que ajudam a criar armas biológicas.

Chatbots de IA podem ajudar a planejar ataques com armas biológicas, revela estudo

Os modelos de inteligência artificial (IA) que sustentam os chatbots poderiam ajudar a planejar ataques com armas biológicas, revelou uma pesquisa de um grupo dos Estados Unidos.

A Casa Branca disse que o compartilhamento dos resultados dos testes de modelos poderosos “garantiria que os sistemas de IA sejam seguros e confiáveis ​​antes que as empresas os tornem públicos”.

A ordem também abrange áreas como privacidade, direitos civis, proteção ao consumidor e direitos dos trabalhadores.

As obrigações determinadas pela ordem serão implementadas e cumpridas no intervalo de 90 a 365 dias, com os itens de segurança e proteção enfrentando os prazos mais curtos.

Biden orders tech firms to share AI safety test results with US government https://t.co/2Ir59YtiE1

— Guardian news (@guardiannews) October 30, 2023

Leia também:

Deputada denuncia ‘racismo algorítmico’ após IA criar imagem de uma mulher negra armada numa favela

A deputada estadual do Rio de Janeiro, Renata Souza (PSOL), compartilhou em suas redes sociais uma denúncia de “racismo algorítmico”. Ao solicitar uma ferramenta de inteligência artificial (IA) que criasse a imagem de uma mulher negra em uma favela, ela recebeu uma ilustração de uma personagem com uma arma de fogo nas mãos.

* O texto desta matéria foi parcialmente gerado por ferramentas de inteligência artificial, modelos de linguagem de última geração que auxiliam na elaboração, revisão, tradução e resumos de textos. As entradas de texto foram criadas pela equipe do Curto News e as respostas das ferramentas de IA foram utilizadas para aprimorar o conteúdo final.
É importante destacar que as ferramentas de IA são apenas ferramentas, e a responsabilidade final pelo conteúdo publicado é do Curto News. Ao utilizarmos essas ferramentas de forma responsável e ética, nosso objetivo é ampliar as possibilidades da comunicação e democratizar o acesso à informação de qualidade. 🤖