Microsoft lança ferramenta de IA para cópia fotorrealista de rostos e vozes

Anunciado no Microsoft Ignite 2023, o Azure AI Speech é treinado com imagens humanas e permite que os usuários insiram um script que pode então ser “lido” em voz alta por um avatar fotorrealista criado com IA. 

Os usuários podem escolher um avatar pré-carregado da Microsoft ou fazer upload de imagens de uma pessoa cuja voz e imagem desejam replicar. A Microsoft disse em um blog publicado na quarta-feira (15) que a ferramenta poderia ser usada para construir “agentes de conversação, assistentes virtuais, chatbots e muito mais”.

Criador de deepfakes

A empresa disse que o novo software de conversão de texto em voz está sendo lançado com uma variedade de limites e salvaguardas para evitar o uso indevido. “Como parte do compromisso da Microsoft com a IA responsável, o avatar de conversão de texto em fala foi projetado com a intenção de proteger os direitos dos indivíduos e da sociedade, promovendo a interação humano-computador transparente e neutralizando a proliferação de deepfakes prejudiciais e conteúdo enganoso”, afirmou a Microsoft.

O que são deepfakes? | Glossário do Newsverso 

Uma deepfake é uma técnica de manipulação de vídeos e imagens que utiliza algoritmos de aprendizado de máquina para criar conteúdo falso e convincente. Ela combina o poder do processamento de computadores modernos com técnicas avançadas de inteligência artificial, permitindo a criação de vídeos que aparentam ser autênticos, mas na verdade são completamente fabricados.

O anúncio rapidamente suscitou críticas de que a Microsoft havia lançado um “criador de deepfakes” – que permitiria mais facilmente que a imagem de uma pessoa fosse replicada e obrigada a dizer e fazer coisas que a pessoa não disse ou fez.

Em comunicado, a empresa rejeitou as críticas, dizendo que os avatares personalizados são agora uma ferramenta de “acesso limitado” à qual os clientes devem se inscrever e ser aprovados pela Microsoft. Os usuários também serão obrigados a divulgar quando a IA foi usada para criar uma voz ou avatar sintético.

Leia também:

5 dicas para garantir que a IA seja usada de forma responsável

A partir do momento que a inteligência artificial ganhou popularidade, discussões sobre problemas, desafios e regulamentações tomaram força. Recentemente, um consórcio de empresas influentes de IA anunciaram um fundo para analisar e mitigar riscos da tecnologia, US$10 milhões já foram investidos e uma comissão foi formada. No entanto, é importante que os usuários comuns estejam atentos para as mudanças que a IA vai impor à sociedade. Veja as dicas que um especialista dá para quem não quer ficar para trás nessa discussão.

* O texto desta matéria foi parcialmente gerado por ferramentas de inteligência artificial, modelos de linguagem de última geração que auxiliam na elaboração, revisão, tradução e resumos de textos. As entradas de texto foram criadas pela equipe do Curto News e as respostas das ferramentas de IA foram utilizadas para aprimorar o conteúdo final.
É importante destacar que as ferramentas de IA são apenas ferramentas, e a responsabilidade final pelo conteúdo publicado é do Curto News. Ao utilizarmos essas ferramentas de forma responsável e ética, nosso objetivo é ampliar as possibilidades da comunicação e democratizar o acesso à informação de qualidade. 🤖