A Meta está trabalhando para detectar e rotular imagens geradas por inteligência artificial (IA) no Facebook, Instagram e Threads enquanto a empresa pressiona para denunciar “pessoas e organizações que desejam ativamente enganar as pessoas”.
Imagens fotorrealistas criadas usando a ferramenta de imagem de inteligência artificial da Meta já são rotuladas como IA, mas o presidente de assuntos globais da empresa, Nick Clegg, anunciou em um blog na terça-feira (6) que a Meta trabalharia para começar a rotular imagens geradas por IA desenvolvidas em serviços rivais.
As imagens de IA da Meta já contêm metadados e marcas d’água invisíveis que podem informar outras organizações que a imagem foi desenvolvida por IA, e a empresa está desenvolvendo ferramentas para identificar esses tipos de marcadores quando usados por outras empresas, como Google, OpenAI, Microsoft, Adobe, Midjourney e Shutterstock em seus geradores de imagens de IA, disse Clegg.
“À medida que a diferença entre conteúdo humano e sintético fica confusa, as pessoas querem saber onde está a fronteira”, afirmou Clegg. “Muitas vezes as pessoas encontram pela primeira vez conteúdo gerado por IA e nossos usuários nos disseram que apreciam a transparência em torno desta nova tecnologia. Portanto, é importante ajudarmos as pessoas a saber quando o conteúdo fotorrealista que estão vendo foi criado usando IA”, completou.
O presidente de assuntos globais da Meta afirmou que a capacidade está sendo construída e os rótulos serão aplicados em todos os idiomas nos próximos meses.
Clegg observou que a identificação estava limitada às imagens e que as ferramentas de IA que geram áudio e vídeo atualmente não incluem esses marcadores, mas a empresa permitiria que as pessoas divulgassem e adicionassem rótulos a esse conteúdo quando postado online.
Ele disse que a Meta também colocaria um rótulo mais proeminente em imagens, vídeos ou áudios “criados ou alterados digitalmente” que “criem um risco particularmente alto de enganar materialmente o público sobre um assunto de importância”.
A empresa também procurava desenvolver tecnologia para detectar automaticamente conteúdo gerado por IA, mesmo que o conteúdo não tenha marcadores invisíveis ou onde esses marcadores tenham sido removidos.
“Este trabalho é especialmente importante porque é provável que se torne um espaço cada vez mais adversário nos próximos anos”, disse Clegg.
“Pessoas e organizações que desejam ativamente enganar outras pessoas com conteúdo gerado por IA procurarão maneiras de contornar as salvaguardas implementadas para detectá-lo. Em toda a nossa indústria e na sociedade em geral, precisaremos continuar procurando maneiras de estar um passo à frente”, finalizou.
Leia também:
Este post foi modificado pela última vez em 6 de fevereiro de 2024 10:54
A OpenAI deu um passo que pode redefinir o equilíbrio de poder no setor de…
Um dos maiores desafios da medicina moderna está nos chamados "casos sem resposta": pacientes que…
A Argentina deu um passo inédito na corrida global pela inteligência artificial (IA). O governo…
A corrida global pela inteligência artificial (IA) acaba de ganhar uma nova fronteira: o espaço.…
A inteligência artificial (IA) já deixou de ser uma promessa tecnológica distante para se tornar…
A inteligência artificial (IA) acaba de alcançar mais um marco simbólico na educação superior. Um…