Especialistas pedem mais regulamentação para deepfakes

“Hoje, as deepfakes frequentemente envolvem imagens sexuais, fraudes ou desinformação política. Como a inteligência artificial (IA) está progredindo rapidamente e tornando os deepfakes muito mais fáceis de criar, são necessárias salvaguardas”, disse o grupo na carta, que foi elaborada por Andrew Critch, um pesquisador em IA na UC Berkeley.

As deepfakes são imagens, áudios e vídeos realistas, mas fabricados, criados por algoritmos de IA, e avanços recentes na tecnologia os tornaram cada vez mais indistinguíveis do conteúdo criado por humanos.

O que são deepfakes? | Glossário do Newsverso 

Uma deepfake é uma técnica de manipulação de vídeos e imagens que utiliza algoritmos de aprendizado de máquina para criar conteúdo falso e convincente. Ela combina o poder do processamento de computadores modernos com técnicas avançadas de inteligência artificial, permitindo a criação de vídeos que aparentam ser autênticos, mas na verdade são completamente fabricados.

A carta, intitulada “Disrupting the Deepfake Supply Chain,” faz recomendações sobre como regular as deepfakes, incluindo a criminalização completa da pornografia infantil deepfake, penalidades criminais para qualquer indivíduo que crie ou facilite conscientemente a disseminação de deepfakes prejudiciais e a exigência de que empresas de IA impeçam seus produtos de criar deepfakes prejudiciais.

Projetos de lei buscam restringir manipulação de imagens com IA

Duas propostas que buscam prevenir abusos no emprego da tecnologia de deepfake, por meio de inteligência artificial (IA), serão examinadas pelo Senado.

Até a manhã desta quarta-feira (21), mais de 400 pessoas de várias indústrias, incluindo acadêmicos, entretenimento e política, haviam assinado a carta.

Os signatários incluíram Steven Pinker, professor de psicologia em Harvard, Joy Buolamwini, fundadora da Algorithmic Justice League, dois ex-presidentes da Estônia, pesquisadores do Google, DeepMind e um pesquisador da OpenAI.

Garantir que os sistemas de IA não prejudiquem a sociedade tem sido uma prioridade para os reguladores desde que a OpenAI, apoiada pela Microsoft, revelou o ChatGPT no final de 2022, que impressionou os usuários ao envolvê-los em conversas semelhantes às humanas e realizar outras tarefas.

Leia também:

Google lança Gemma: “família de modelos abertos leves e de última geração”

O Google lançou na quarta-feira (21) novos modelos de inteligência artificial (IA) que desenvolvedores externos podem potencialmente criar como se fossem seus, seguindo um movimento semelhante da Meta Platforms e outros.

Procurando uma ferramenta de Inteligência Artificial para facilitar a sua vida? Neste guIA, você navega por um catálogo de robôs movidos a IA e conhece suas funcionalidades. Confira a avaliação que a nossa equipe de jornalistas deu para elas!