Imagens fotorrealistas criadas usando a ferramenta de imagem de inteligência artificial da Meta já são rotuladas como IA, mas o presidente de assuntos globais da empresa, Nick Clegg, anunciou em um blog na terça-feira (6) que a Meta trabalharia para começar a rotular imagens geradas por IA desenvolvidas em serviços rivais.
PUBLICIDADE
Meta pushes to label all AI images on Instagram and Facebook in crackdown on deceptive content https://t.co/Xmg2I69MMO
— Guardian Tech (@guardiantech) February 6, 2024
As imagens de IA da Meta já contêm metadados e marcas d’água invisíveis que podem informar outras organizações que a imagem foi desenvolvida por IA, e a empresa está desenvolvendo ferramentas para identificar esses tipos de marcadores quando usados por outras empresas, como Google, OpenAI, Microsoft, Adobe, Midjourney e Shutterstock em seus geradores de imagens de IA, disse Clegg.
“À medida que a diferença entre conteúdo humano e sintético fica confusa, as pessoas querem saber onde está a fronteira”, afirmou Clegg. “Muitas vezes as pessoas encontram pela primeira vez conteúdo gerado por IA e nossos usuários nos disseram que apreciam a transparência em torno desta nova tecnologia. Portanto, é importante ajudarmos as pessoas a saber quando o conteúdo fotorrealista que estão vendo foi criado usando IA”, completou.
O presidente de assuntos globais da Meta afirmou que a capacidade está sendo construída e os rótulos serão aplicados em todos os idiomas nos próximos meses.
PUBLICIDADE
Identificação limitada às imagens geradas por IA
Clegg observou que a identificação estava limitada às imagens e que as ferramentas de IA que geram áudio e vídeo atualmente não incluem esses marcadores, mas a empresa permitiria que as pessoas divulgassem e adicionassem rótulos a esse conteúdo quando postado online.
Ele disse que a Meta também colocaria um rótulo mais proeminente em imagens, vídeos ou áudios “criados ou alterados digitalmente” que “criem um risco particularmente alto de enganar materialmente o público sobre um assunto de importância”.
A empresa também procurava desenvolver tecnologia para detectar automaticamente conteúdo gerado por IA, mesmo que o conteúdo não tenha marcadores invisíveis ou onde esses marcadores tenham sido removidos.
PUBLICIDADE
“Este trabalho é especialmente importante porque é provável que se torne um espaço cada vez mais adversário nos próximos anos”, disse Clegg.
“Pessoas e organizações que desejam ativamente enganar outras pessoas com conteúdo gerado por IA procurarão maneiras de contornar as salvaguardas implementadas para detectá-lo. Em toda a nossa indústria e na sociedade em geral, precisaremos continuar procurando maneiras de estar um passo à frente”, finalizou.
Leia também:
