Os humanos são capazes de detectar fala gerada artificialmente apenas 73% do tempo, descobriu um estudo, com os mesmos níveis de precisão encontrados em falantes de inglês e mandarim.
escutar/som
Pesquisadores da University College London usaram um algoritmo de conversão de texto em fala treinado em dois conjuntos de dados disponíveis publicamente, um em inglês e outro em mandarim, para gerar 50 amostras de fala deepfake em cada idioma.
Deepfakes, uma forma de inteligência artificial generativa, são mídias sintéticas criadas para se assemelhar à voz de uma pessoa real ou à semelhança de sua aparência. ⤵️
As amostras de som foram tocadas para 529 participantes, que tinham que tentar distinguir a amostra real da fala falsa. Os participantes foram capazes de identificar a fala falsa apenas 73% das vezes. Esse número melhorou ligeiramente depois que eles receberam treinamento para reconhecer aspectos da fala deepfake.
O estudo é o primeiro a avaliar a capacidade humana de detectar a fala gerada artificialmente em um idioma diferente do inglês. Ele discorre sobre as preocupações de que os humanos são incapazes de detectar consistentemente quando um áudio é um deepfake, apesar de serem treinados para isso.
Kimberly Mai, uma das autoras do estudo, disse: “Em nosso estudo, mostramos que treinar pessoas para detectar deepfakes não é necessariamente uma maneira confiável de ajudá-las a melhorar. Infelizmente, nossos experimentos também mostram que, no momento, os detectores automatizados também não são confiáveis.
Segundo Mai, seria importante melhorar os detectores de fala deepfake automatizados e que as organizações “pensassem em estratégias para mitigar a ameaça que o conteúdo deepfake representa”.
Leia também:
Este post foi modificado pela última vez em 2 de agosto de 2023 15:47
A Organização Mundial da Saúde reuniu ministros, autoridades governamentais e especialistas de 37 países em…
A inteligência artificial (IA) já começa a transformar hospitais, consultórios e sistemas de saúde, assumindo…
A OpenAI apresentou oficialmente o GPT-5.6, sua mais nova geração de modelos de inteligência artificial…
A OpenAI deu um passo que pode redefinir o equilíbrio de poder no setor de…
Um dos maiores desafios da medicina moderna está nos chamados "casos sem resposta": pacientes que…
A Argentina deu um passo inédito na corrida global pela inteligência artificial (IA). O governo…