Humanos podem detectar fala deepfake apenas 73% das vezes, alerta estudo

Os humanos são capazes de detectar fala gerada artificialmente apenas 73% do tempo, descobriu um estudo, com os mesmos níveis de precisão encontrados em falantes de inglês e mandarim.

Publicado por

Isabella Caminoto

2 de agosto de 2023 15:46

escutar/som

Pesquisadores da University College London usaram um algoritmo de conversão de texto em fala treinado em dois conjuntos de dados disponíveis publicamente, um em inglês e outro em mandarim, para gerar 50 amostras de fala deepfake em cada idioma.

Deepfakes, uma forma de inteligência artificial generativa, são mídias sintéticas criadas para se assemelhar à voz de uma pessoa real ou à semelhança de sua aparência. ⤵️

O que são deepfakes? | Glossário do Newsverso

Uma deepfake é uma técnica de manipulação de vídeos e imagens que utiliza algoritmos de aprendizado de máquina para criar conteúdo falso e convincente. Ela combina o poder do processamento de computadores modernos com técnicas avançadas de inteligência artificial, permitindo a criação de vídeos que aparentam ser autênticos, mas na verdade são completamente fabricados.

As amostras de som foram tocadas para 529 participantes, que tinham que tentar distinguir a amostra real da fala falsa. Os participantes foram capazes de identificar a fala falsa apenas 73% das vezes. Esse número melhorou ligeiramente depois que eles receberam treinamento para reconhecer aspectos da fala deepfake.

O estudo é o primeiro a avaliar a capacidade humana de detectar a fala gerada artificialmente em um idioma diferente do inglês. Ele discorre sobre as preocupações de que os humanos são incapazes de detectar consistentemente quando um áudio é um deepfake, apesar de serem treinados para isso.

Kimberly Mai, uma das autoras do estudo, disse: “Em nosso estudo, mostramos que treinar pessoas para detectar deepfakes não é necessariamente uma maneira confiável de ajudá-las a melhorar. Infelizmente, nossos experimentos também mostram que, no momento, os detectores automatizados também não são confiáveis.

Segundo Mai, seria importante melhorar os detectores de fala deepfake automatizados e que as organizações “pensassem em estratégias para mitigar a ameaça que o conteúdo deepfake representa”.

Leia também:

O poder da inteligência artificial no cruzamento entre ChatGPT e deepfakes

Foi só a OpenAI lançar em novembro de 2022 o ChatGPT, a versão 3,5 conversacional e acessível a todos — não somente a empresas, como eram as versões anteriores do GPT (Generative Pre-trained Transformer) —, para que os especialistas em comunicação, matemática, computação, lógica, linguística, tecnologia da informação etc. começassem a se preocupar com os danos da inteligência artificial (IA) generativa.

Este post foi modificado pela última vez em %s = human-readable time difference 15:47

Isabella Caminoto

Advogada e mestranda em Direito Internacional, tenho a democracia e a liberdade como bandeiras irrenunciáveis. Sou apaixonada pelos animais e acredito que o bem-estar do nosso planeta deveria ser o destaque diário da pauta da nossa sociedade.