OpenAI anuncia ferramenta que pode detectar imagens geradas pelo DALL-E 3

A OpenAI anunciou nesta terça-feira (7) que está lançando uma ferramenta que pode detectar imagens criadas por seu gerador de texto para imagem DALL-E 3, apoiado pela Microsoft. O anúncio surge em meio a crescentes preocupações sobre a influência do conteúdo gerado por inteligência artificial (IA) nas eleições globais deste ano.

🇬🇧 Subscribe to the best newsletter about AI (in English 🇬🇧) 

🇧🇷 Assine a melhor newsletter sobre IA (em português 🇧🇷)

A empresa disse que a ferramenta identificou corretamente imagens criadas pelo DALL-E 3 cerca de 98% do tempo em testes internos e pode lidar com modificações comuns, como compressão, recorte e mudanças de saturação com impacto mínimo.

O criador do ChatGPT também planeja adicionar marca d’água resistente a adulterações para marcar conteúdo digital, como fotos ou áudio, com um sinal que deve ser difícil de remover.

Como parte dos esforços, a OpenAI também se juntou a um grupo da indústria que inclui Google, Microsoft e Adobe e planeja fornecer um padrão que ajudaria a rastrear a origem de diferentes mídias.

Em abril, durante as eleições gerais em curso na Índia, vídeos falsos de dois atores de Bollywood que são vistos criticando o Primeiro-Ministro Narendra Modi viralizaram online.

A disseminação de conteúdo gerado por IA e deepfakes está sendo cada vez mais usada na Índia e em eleições em outros lugares do mundo, incluindo nos EUA, Paquistão e Indonésia.

A OpenAI disse que está se unindo à Microsoft no lançamento de um fundo de “resiliência social” de US$ 2 milhões para apoiar a educação em IA.

Leia também: