Microsoft lança ferramenta de IA para cópia fotorrealista de rostos e vozes

A Microsoft anunciou sua mais recente contribuição para a corrida da inteligência artificial (IA): um software que pode gerar novos avatares e vozes ou replicar a aparência e a fala existentes de um usuário – levantando preocupações de um possível aumento na criação de deepfakes.

Publicado por

Isabella Caminoto

18 de novembro de 2023 16:00

Anunciado no Microsoft Ignite 2023, o Azure AI Speech é treinado com imagens humanas e permite que os usuários insiram um script que pode então ser “lido” em voz alta por um avatar fotorrealista criado com IA.

Os usuários podem escolher um avatar pré-carregado da Microsoft ou fazer upload de imagens de uma pessoa cuja voz e imagem desejam replicar. A Microsoft disse em um blog publicado na quarta-feira (15) que a ferramenta poderia ser usada para construir “agentes de conversação, assistentes virtuais, chatbots e muito mais”.

Criador de deepfakes

A empresa disse que o novo software de conversão de texto em voz está sendo lançado com uma variedade de limites e salvaguardas para evitar o uso indevido. “Como parte do compromisso da Microsoft com a IA responsável, o avatar de conversão de texto em fala foi projetado com a intenção de proteger os direitos dos indivíduos e da sociedade, promovendo a interação humano-computador transparente e neutralizando a proliferação de deepfakes prejudiciais e conteúdo enganoso”, afirmou a Microsoft.

O que são deepfakes? | Glossário do Newsverso

Uma deepfake é uma técnica de manipulação de vídeos e imagens que utiliza algoritmos de aprendizado de máquina para criar conteúdo falso e convincente. Ela combina o poder do processamento de computadores modernos com técnicas avançadas de inteligência artificial, permitindo a criação de vídeos que aparentam ser autênticos, mas na verdade são completamente fabricados.

O anúncio rapidamente suscitou críticas de que a Microsoft havia lançado um “criador de deepfakes” – que permitiria mais facilmente que a imagem de uma pessoa fosse replicada e obrigada a dizer e fazer coisas que a pessoa não disse ou fez.

Em comunicado, a empresa rejeitou as críticas, dizendo que os avatares personalizados são agora uma ferramenta de “acesso limitado” à qual os clientes devem se inscrever e ser aprovados pela Microsoft. Os usuários também serão obrigados a divulgar quando a IA foi usada para criar uma voz ou avatar sintético.

Leia também:

5 dicas para garantir que a IA seja usada de forma responsável

A partir do momento que a inteligência artificial ganhou popularidade, discussões sobre problemas, desafios e regulamentações tomaram força. Recentemente, um consórcio de empresas influentes de IA anunciaram um fundo para analisar e mitigar riscos da tecnologia, US$10 milhões já foram investidos e uma comissão foi formada. No entanto, é importante que os usuários comuns estejam atentos para as mudanças que a IA vai impor à sociedade. Veja as dicas que um especialista dá para quem não quer ficar para trás nessa discussão.

Este post foi modificado pela última vez em 17 de novembro de 2023 18:37

Isabella Caminoto

Advogada e mestranda em Direito Internacional, tenho a democracia e a liberdade como bandeiras irrenunciáveis. Sou apaixonada pelos animais e acredito que o bem-estar do nosso planeta deveria ser o destaque diário da pauta da nossa sociedade.