Meta está desenvolvendo marca d’água para imagens geradas por IA

A Meta anunciou o desenvolvimento de uma marca d'água para imagens de IA, chamada Stable Signature. A tecnologia funciona incorporando uma assinatura binária secreta em todas as imagens geradas por modelos de difusão, como o Stable Diffusion e DALL-E.

A marca d’água é invisível a olho nu, mas pode ser detectada por algoritmos. A Meta diz que suas marcas podem ser detectadas até se a imagem for editada por uma pós-geração humana. Desenvolvida junto com pesquisadores do Instituto Nacional de Pesquisa em Ciência e Tecnologia Digital da França, a ferramenta pode ainda ganhar uma versão para vídeo em breve. 

PUBLICIDADE

A marca d’água tem várias aplicações potenciais, incluindo:

  • Verificação de fatos: A tecnologia pode ser usada por verificadores de fatos para verificar a origem de uma imagem.
  • Proteção de direitos autorais: A tecnologia pode ser usada por empresas para detectar se uma de suas imagens geradas por IA está sendo usada em outro lugar sem permissão.
  • Rastreamento de deepfakes: A tecnologia pode ser usada para rastrear deepfakes prejudiciais ou violações de direitos autorais de volta para usuários específicos.
Meta está desenvolvendo marca d’água para imagens geradas por IA

A Assinatura ainda está em desenvolvimento, mas tem o potencial e demanda crescente com esse novo momento da IA. Recentemente, polêmicas envolvendo imagens geradas por modelos generativos trouxeram transtorno para comunidade, um exemplo disso foram as fotos que circularam nas redes do Papa fashonista com uma jaqueta puffer.  

“Acreditamos que podemos traçar um futuro em que a IA generativa seja usada com responsabilidade para novos e emocionantes empreendimentos criativos”, conclui a Meta em comunicado oficial. 

Veja também:

Rolar para cima