Google lança ferramenta para identificar imagens falsas geradas por IA; saiba mais sobre o SynthID

O SynthID incorpora uma marca d’água digital imperceptível nos pixels da imagem, que facilita a identificação precisa, mantendo a invisibilidade ao olho humano.  A ferramenta pode ser usada para identificar deepfakes e imagens geradas por uma variedade de modelos de IA, incluindo Imagen, DALL-E 2.

Segundo o Google, o SynthID garante o uso responsável do conteúdo gerado pela IA e combate a disseminação de informações erradas que podem resultar de imagens alteradas.

SynthID coloca uma marca d’água imperceptível na imagem

O mecanismo de marca d’água da SynthID é distinto dos métodos convencionais, pois permanece detectável mesmo após alterações como adicionar filtros, alterar cores e empregar técnicas de compressão com perdas.

Sua base está em dois modelos de aprendizado profundo, meticulosamente treinados para colaborar na marca d’água e na identificação de imagens.

A ferramenta também fornece três níveis de confiança para a identificação de marcas d’água, permitindo que os usuários avaliem a probabilidade de origem de uma imagem.

É importante ressaltar que a abordagem de marca d’água do SynthID está alinhada com outros métodos de identificação dependentes de metadados, oferecendo compatibilidade e resiliência, mesmo que os metadados sejam adulterados.

De modo geral, o SynthID está atualmente em versão beta e está disponível apenas para um subconjunto limitado de clientes da Vertex AI. O Google planeja disponibilizar a solução para todos os clientes do Google Cloud em breve, numa data ainda não divulgada.

Veja também: