Pesquisadores do Massachusetts Institute of Technology (MIT) desenvolveram uma nova técnica chamada PhotoGuard que pode ser usada para proteger imagens contra manipulação por modelos de inteligência artificial (IA).
A técnica usa pequenos ajustes invisíveis aos olhos humanos para confundir os modelos de IA, tornando impossível para eles manipular as imagens. A técnica foi apresentada oficialmente na segunda (31).
Os pesquisadores acreditam que o PhotoGuard pode ser usado para proteger uma ampla gama de imagens, incluindo fotos pessoais, imagens de notícias e evidências de crimes. A técnica já foi testada em vários modelos de IA diferentes e se mostrou eficaz na proteção contra manipulação em todos eles.
O desenvolvimento do PhotoGuard é uma resposta aos crescentes riscos de manipulação de imagens por IA. À medida que os modelos de IA se tornam mais poderosos, eles são capazes de manipular imagens de forma mais realista e indistinguível de imagens reais. Isso pode ser usado para fins maliciosos, como espalhar desinformação ou chantagear pessoas.
No vídeo conseguimos entender como a ferramenta funciona:
O PhotoGuard é uma técnica que adiciona pequenas alterações invisíveis aos olhos humanos a uma imagem. Essas alterações são projetadas para confundir os modelos de IA, tornando impossível para eles manipular a imagem.
A ferramenta funciona usando dois métodos diferentes:
A solução foi testada em vários modelos de IA diferentes e se mostrou eficaz na proteção contra manipulação em todos eles, de acordo com a comunidade do MIT. Os pesquisadores acreditam que o PhotoGuard pode ser usado para proteger uma ampla gama de imagens, incluindo fotos pessoais, imagens de notícias e evidências de crimes.
Os pesquisadores do MIT estão atualmente trabalhando para tornar o PhotoGuard disponível ao público. Detalhes sobre lançamento ao público e licença de uso não foram divulgados.
Veja mais:
Este post foi modificado pela última vez em %s = human-readable time difference 16:03
O Google DeepMind acaba de anunciar uma parceria estratégica com a Apptronik, uma empresa de…
Uma equipe de pesquisadores de 20 laboratórios diferentes acaba de apresentar o Genesis, um motor…
O Google acabou de lançar o que está chamando de um novo modelo de inteligência…
A GitHub, de propriedade da Microsoft, acaba de anunciar um nível gratuito de seu Copilot…
A OpenAI acaba de lançar uma nova maneira surpreendente de acessar o ChatGPT - através…
O Google DeepMind acaba de lançar o FACTS Grounding, um novo benchmark projetado para avaliar…