Uma deepfake é uma técnica de manipulação de vídeos e imagens que utiliza algoritmos de aprendizado de máquina para criar conteúdo falso e convincente. Ela combina o poder do processamento de computadores modernos com técnicas avançadas de inteligência artificial, permitindo a criação de vídeos que aparentam ser autênticos, mas na verdade são completamente fabricados.
A inteligência artificial geradora de “deepfakes” está alimentando esquemas de extorsão sexual ou sextorsão, alerta o FBI. De acordo com a polícia federal norte-americana, o número de casos de sextorsão relatados nos EUA aumentou 322% entre fevereiro de 2022 e fevereiro de 2023. A prática teve um aumento significativo desde abril, quando imagens modificadas por IA passaram a circular na internet. Além da troca inocente de “nudes”, os jovens agora precisam se preocupar com a distorção de fotos aparentemente inofensivas postadas em redes sociais.
Um grupo bipartidário de senadores dos Estados Unidos apresentou um projeto de lei na terça-feira (30) que criminaliza a disseminação de imagens sexualizadas, geradas por inteligência artificial (IA), sem consentimento.
Imagens deepfake de Taylor Swift motivam projeto de lei nos EUA Leia mais »
A rápida disseminação online de imagens deepfake pornográficas de Taylor Swift renovou os apelos, inclusive de políticos dos EUA, para criminalizar a prática, na qual a inteligência artificial (IA) é usada para gerar imagens falsas, mas convincentes.
Pornografia deepfake de Taylor Swift gera novos apelos por legislação nos EUA Leia mais »
As ferramentas de detecção, que estão sendo desenvolvidas para combater a crescente ameaça de deepfakes, – conteúdo falso de aparência realista – devem usar conjuntos de dados de treinamento que incluam todos os tons de pele para evitar vieses, alertaram especialistas.
Os humanos são capazes de detectar fala gerada artificialmente apenas 73% do tempo, descobriu um estudo, com os mesmos níveis de precisão encontrados em falantes de inglês e mandarim.
Humanos podem detectar fala deepfake apenas 73% das vezes, alerta estudo Leia mais »
As plataformas de mídia social e as empresas de tecnologia serão obrigadas a eliminar material prejudicial criado através da inteligência artificial (IA), como imagens íntimas deepfake e discursos de ódio, de acordo com novas regras de segurança online do governo da Austrália.
