Especialistas pedem mais regulamentação para deepfakes

Especialistas em inteligência artificial (IA) e executivos do setor, incluindo um dos pioneiros da tecnologia, Yoshua Bengio, assinaram uma carta aberta pedindo mais regulamentação em torno da criação de deepfakes, citando potenciais riscos para a sociedade.

Publicado por

Vinicius Siqueira

21 de fevereiro de 2024 14:36

Créditos de Imagem: Curto News/BingAI

“Hoje, as deepfakes frequentemente envolvem imagens sexuais, fraudes ou desinformação política. Como a inteligência artificial (IA) está progredindo rapidamente e tornando os deepfakes muito mais fáceis de criar, são necessárias salvaguardas”, disse o grupo na carta, que foi elaborada por Andrew Critch, um pesquisador em IA na UC Berkeley.

As deepfakes são imagens, áudios e vídeos realistas, mas fabricados, criados por algoritmos de IA, e avanços recentes na tecnologia os tornaram cada vez mais indistinguíveis do conteúdo criado por humanos.

O que são deepfakes? | Glossário do Newsverso

Uma deepfake é uma técnica de manipulação de vídeos e imagens que utiliza algoritmos de aprendizado de máquina para criar conteúdo falso e convincente. Ela combina o poder do processamento de computadores modernos com técnicas avançadas de inteligência artificial, permitindo a criação de vídeos que aparentam ser autênticos, mas na verdade são completamente fabricados.

A carta, intitulada “Disrupting the Deepfake Supply Chain,” faz recomendações sobre como regular as deepfakes, incluindo a criminalização completa da pornografia infantil deepfake, penalidades criminais para qualquer indivíduo que crie ou facilite conscientemente a disseminação de deepfakes prejudiciais e a exigência de que empresas de IA impeçam seus produtos de criar deepfakes prejudiciais.

Projetos de lei buscam restringir manipulação de imagens com IA

Duas propostas que buscam prevenir abusos no emprego da tecnologia de deepfake, por meio de inteligência artificial (IA), serão examinadas pelo Senado.

Até a manhã desta quarta-feira (21), mais de 400 pessoas de várias indústrias, incluindo acadêmicos, entretenimento e política, haviam assinado a carta.

Os signatários incluíram Steven Pinker, professor de psicologia em Harvard, Joy Buolamwini, fundadora da Algorithmic Justice League, dois ex-presidentes da Estônia, pesquisadores do Google, DeepMind e um pesquisador da OpenAI.

Garantir que os sistemas de IA não prejudiquem a sociedade tem sido uma prioridade para os reguladores desde que a OpenAI, apoiada pela Microsoft, revelou o ChatGPT no final de 2022, que impressionou os usuários ao envolvê-los em conversas semelhantes às humanas e realizar outras tarefas.

Leia também:

Google lança Gemma: “família de modelos abertos leves e de última geração”

O Google lançou na quarta-feira (21) novos modelos de inteligência artificial (IA) que desenvolvedores externos podem potencialmente criar como se fossem seus, seguindo um movimento semelhante da Meta Platforms e outros.

Este post foi modificado pela última vez em %s = human-readable time difference 14:39

Vinicius Siqueira