Rotulagem de imagens de IA: Meta toma iniciativa para combater a desinformação no Instagram e Facebook

Imagens fotorrealistas criadas usando a ferramenta de imagem de inteligência artificial da Meta já são rotuladas como IA, mas o presidente de assuntos globais da empresa, Nick Clegg, anunciou em um blog na terça-feira (6) que a Meta trabalharia para começar a rotular imagens geradas por IA desenvolvidas em serviços rivais.

Meta pushes to label all AI images on Instagram and Facebook in crackdown on deceptive content https://t.co/Xmg2I69MMO

— Guardian Tech (@guardiantech) February 6, 2024

As imagens de IA da Meta já contêm metadados e marcas d’água invisíveis que podem informar outras organizações que a imagem foi desenvolvida por IA, e a empresa está desenvolvendo ferramentas para identificar esses tipos de marcadores quando usados ​​por outras empresas, como Google, OpenAI, Microsoft, Adobe, Midjourney e Shutterstock em seus geradores de imagens de IA, disse Clegg.

“À medida que a diferença entre conteúdo humano e sintético fica confusa, as pessoas querem saber onde está a fronteira”, afirmou Clegg. “Muitas vezes as pessoas encontram pela primeira vez conteúdo gerado por IA e nossos usuários nos disseram que apreciam a transparência em torno desta nova tecnologia. Portanto, é importante ajudarmos as pessoas a saber quando o conteúdo fotorrealista que estão vendo foi criado usando IA”, completou.

O presidente de assuntos globais da Meta afirmou que a capacidade está sendo construída e os rótulos serão aplicados em todos os idiomas nos próximos meses.

Imagens deepfake de Taylor Swift motivam projeto de lei nos EUA

Um grupo bipartidário de senadores dos Estados Unidos apresentou um projeto de lei na terça-feira (30) que criminaliza a disseminação de imagens sexualizadas, geradas por inteligência artificial (IA), sem consentimento.

Identificação limitada às imagens geradas por IA

Clegg observou que a identificação estava limitada às imagens e que as ferramentas de IA que geram áudio e vídeo atualmente não incluem esses marcadores, mas a empresa permitiria que as pessoas divulgassem e adicionassem rótulos a esse conteúdo quando postado online.

Ele disse que a Meta também colocaria um rótulo mais proeminente em imagens, vídeos ou áudios “criados ou alterados digitalmente” que “criem um risco particularmente alto de enganar materialmente o público sobre um assunto de importância”.

A empresa também procurava desenvolver tecnologia para detectar automaticamente conteúdo gerado por IA, mesmo que o conteúdo não tenha marcadores invisíveis ou onde esses marcadores tenham sido removidos.

“Este trabalho é especialmente importante porque é provável que se torne um espaço cada vez mais adversário nos próximos anos”, disse Clegg.

“Pessoas e organizações que desejam ativamente enganar outras pessoas com conteúdo gerado por IA procurarão maneiras de contornar as salvaguardas implementadas para detectá-lo. Em toda a nossa indústria e na sociedade em geral, precisaremos continuar procurando maneiras de estar um passo à frente”, finalizou.

Leia também:

Criminosos usam deepfake para enganar multinacional e dão golpe de R$ 127 milhões

Um recente ataque financeiro com o uso de inteligência artificial (IA) deixou uma renomada empresa multinacional no prejuízo de cerca de R$ 127 milhões, conforme reportado pelo South China Morning Post e mencionado pela Folha de S. Paulo.

Procurando uma ferramenta de Inteligência Artificial para facilitar a sua vida? Neste guIA, você navega por um catálogo de robôs movidos a IA e conhece suas funcionalidades. Confira a avaliação que a nossa equipe de jornalistas deu para elas!