Meta está desenvolvendo marca d’água para imagens geradas por IA

A Meta anunciou o desenvolvimento de uma marca d'água para imagens de IA, chamada Stable Signature. A tecnologia funciona incorporando uma assinatura binária secreta em todas as imagens geradas por modelos de difusão, como o Stable Diffusion e DALL-E.

Publicado por

Uesley Durães

23 de outubro de 2023 11:37

A marca d’água é invisível a olho nu, mas pode ser detectada por algoritmos. A Meta diz que suas marcas podem ser detectadas até se a imagem for editada por uma pós-geração humana. Desenvolvida junto com pesquisadores do Instituto Nacional de Pesquisa em Ciência e Tecnologia Digital da França, a ferramenta pode ainda ganhar uma versão para vídeo em breve.

Google lança ferramenta para identificar imagens falsas geradas por IA; saiba mais sobre o SynthID

O Google Cloud, em parceria com o Google DeepMind e o Google Research, lançou na última terça (29) o SynthID, uma ferramenta que visa identificar imagens falsas geradas por IA.

A marca d’água tem várias aplicações potenciais, incluindo:

Verificação de fatos: A tecnologia pode ser usada por verificadores de fatos para verificar a origem de uma imagem.
Proteção de direitos autorais: A tecnologia pode ser usada por empresas para detectar se uma de suas imagens geradas por IA está sendo usada em outro lugar sem permissão.
Rastreamento de deepfakes: A tecnologia pode ser usada para rastrear deepfakes prejudiciais ou violações de direitos autorais de volta para usuários específicos.

Meta está desenvolvendo marca d’água para imagens geradas por IA

A Assinatura ainda está em desenvolvimento, mas tem o potencial e demanda crescente com esse novo momento da IA. Recentemente, polêmicas envolvendo imagens geradas por modelos generativos trouxeram transtorno para comunidade, um exemplo disso foram as fotos que circularam nas redes do Papa fashonista com uma jaqueta puffer.

“Acreditamos que podemos traçar um futuro em que a IA generativa seja usada com responsabilidade para novos e emocionantes empreendimentos criativos”, conclui a Meta em comunicado oficial.

Veja também:

Grupo de mães denuncia a divulgação de imagens de suas filhas nuas criadas com IA

Um grupo de mães da região de Badajoz, na Espanha, denunciou a publicação e divulgação de imagens falsas de suas filhas, geradas com inteligência artificial (IA), que simulam nudez.

Novo recurso permite criar imagens com IA direto na busca do Google

Há momentos em que você pode estar procurando uma imagem específica, mas não consegue encontrar exatamente o que tem em mente. Pensando nisso, o Google anunciou um novo recurso para o seu mecanismo de busca: transformar textos em imagens por meio de inteligência artificial (IA).