Rotulagem de imagens de IA: Meta toma iniciativa para combater a desinformação no Instagram e Facebook

Imagens fotorrealistas criadas usando a ferramenta de imagem de inteligência artificial da Meta já são rotuladas como IA, mas o presidente de assuntos globais da empresa, Nick Clegg, anunciou em um blog na terça-feira (6) que a Meta trabalharia para começar a rotular imagens geradas por IA desenvolvidas em serviços rivais.

As imagens de IA da Meta já contêm metadados e marcas d’água invisíveis que podem informar outras organizações que a imagem foi desenvolvida por IA, e a empresa está desenvolvendo ferramentas para identificar esses tipos de marcadores quando usados ​​por outras empresas, como Google, OpenAI, Microsoft, Adobe, Midjourney e Shutterstock em seus geradores de imagens de IA, disse Clegg.

“À medida que a diferença entre conteúdo humano e sintético fica confusa, as pessoas querem saber onde está a fronteira”, afirmou Clegg. “Muitas vezes as pessoas encontram pela primeira vez conteúdo gerado por IA e nossos usuários nos disseram que apreciam a transparência em torno desta nova tecnologia. Portanto, é importante ajudarmos as pessoas a saber quando o conteúdo fotorrealista que estão vendo foi criado usando IA”, completou.

O presidente de assuntos globais da Meta afirmou que a capacidade está sendo construída e os rótulos serão aplicados em todos os idiomas nos próximos meses.

Identificação limitada às imagens geradas por IA

Clegg observou que a identificação estava limitada às imagens e que as ferramentas de IA que geram áudio e vídeo atualmente não incluem esses marcadores, mas a empresa permitiria que as pessoas divulgassem e adicionassem rótulos a esse conteúdo quando postado online.

Ele disse que a Meta também colocaria um rótulo mais proeminente em imagens, vídeos ou áudios “criados ou alterados digitalmente” que “criem um risco particularmente alto de enganar materialmente o público sobre um assunto de importância”.

A empresa também procurava desenvolver tecnologia para detectar automaticamente conteúdo gerado por IA, mesmo que o conteúdo não tenha marcadores invisíveis ou onde esses marcadores tenham sido removidos.

“Este trabalho é especialmente importante porque é provável que se torne um espaço cada vez mais adversário nos próximos anos”, disse Clegg.

“Pessoas e organizações que desejam ativamente enganar outras pessoas com conteúdo gerado por IA procurarão maneiras de contornar as salvaguardas implementadas para detectá-lo. Em toda a nossa indústria e na sociedade em geral, precisaremos continuar procurando maneiras de estar um passo à frente”, finalizou.

Leia também: