Austrália exigirá que material de abuso infantil produzido por IA seja removido dos resultados de pesquisa

Um novo código elaborado pelos gigantes da indústria, a pedido do governo, exigirá que os mecanismos de busca garantam que tal conteúdo não seja retornado nos resultados de busca, disse a comissária de segurança eletrônica, Julie Inman Grant, em um comunicado.

Da mesma forma, solicitará que as funções de IA – incorporadas nos mecanismos de busca – não possam produzir deepfakes do mesmo material.

O que são deepfakes? | Glossário do Newsverso 

Uma deepfake é uma técnica de manipulação de vídeos e imagens que utiliza algoritmos de aprendizado de máquina para criar conteúdo falso e convincente. Ela combina o poder do processamento de computadores modernos com técnicas avançadas de inteligência artificial, permitindo a criação de vídeos que aparentam ser autênticos, mas na verdade são completamente fabricados.

As empresas também serão obrigadas a pesquisar tecnologias que ajudem os usuários a detectar e identificar imagens deepfake acessíveis a partir de seus serviços.

O código apresenta um exemplo de como o panorama regulamentar e jurídico em torno das plataformas da Internet está sendo reformulado pela explosão de produtos que geram automaticamente conteúdos realistas.

Search engines required to stamp out AI-generated images of child abuse under Australia’s new code https://t.co/iQY7EYqHJC

— Guardian news (@guardiannews) September 7, 2023

Leia também:

Google exigirá que políticos divulguem o uso de IA em anúncios eleitorais

O Google exigirá que “todos os anunciantes eleitorais verificados” “divulguem com destaque” quando seus anúncios fizerem uso de inteligência artificial (IA), em meio à crescente ameaça de desinformação representada pela explosão da tecnologia.

Inteligência artificial está impulsionando pornografia infantil na internet

Com a explosão de popularidade da inteligência artificial generativa, as empresas, as pessoas e as relações se transformaram. Agora, novas problemáticas envolvendo IA já causam alerta nas autoridades. Na dark web, criminosos divulgam pornografia infantil com o auxílio de ferramentas geradoras de imagem por IA, dizem especialistas. Entenda.