Nightshade: Uma nova arma que combate o plágio da IA

A equipe do Glaze Project da Universidade de Chicago criou uma nova ferramenta de software, o Nightshade. O seu objetivo é salvaguardar as criações dos artistas, impedindo a sua utilização no treinamento de modelos de inteligência artificial (IA) sem autorização.

Publicado por

Isabella Caminoto

23 de janeiro de 2024 14:23

IA e plágio

Funcionalidade do Nightshade

Nightshade foi projetado para alterar sutilmente as imagens no nível do pixel. Embora essas mudanças sejam minimamente visíveis para os humanos, elas enganam significativamente os modelos de inteligência artificial, fazendo com que interpretem mal o conteúdo das imagens.

Impacto no treinamento de modelos de IA

Quando os modelos de IA são treinados em imagens alteradas com Nightshade, sua capacidade de categorizar objetos com precisão em tarefas futuras fica comprometida. Por exemplo, uma IA pode começar a identificar erroneamente vacas como bolsas em todas as imagens, não apenas naquelas alteradas pelo Nightshade.

Ferramenta como resposta ao uso não regulamentado de dados da IA

Nightshade serve como uma contramedida contra a extração não regulamentada de obras de arte online por modelos de IA. O objetivo é aumentar o custo do treinamento em dados não licenciados, tornando mais viável para os desenvolvedores de inteligência artificial licenciarem imagens diretamente dos criadores.

O Nightshade representa um desenvolvimento significativo na conversa em curso sobre o uso ético de dados em IA, especialmente no que diz respeito aos direitos dos artistas. A sua implementação poderá levar a grandes mudanças na forma como os modelos de IA são treinados e na forma como os dados são obtidos, com implicações mais amplas para a relação entre o desenvolvimento da IA e os direitos de propriedade intelectual.

Leia também:

Chatbots de IA criam ‘ensopado de plágio’ ao reproduzirem conteúdo de notícias, diz relatório

Chatbots apoiados por inteligência artificial (IA), como o ChatGPT, estão criando um ‘ensopado de plágio’ – respondendo a perguntas com “paráfrases ou repetição total” de textos copiados de artigos de notícias protegidos por direitos autorais, revelou um relatório de uma organização sem fins lucrativos.

Este post foi modificado pela última vez em %s = human-readable time difference 14:23

Isabella Caminoto

Advogada e mestranda em Direito Internacional, tenho a democracia e a liberdade como bandeiras irrenunciáveis. Sou apaixonada pelos animais e acredito que o bem-estar do nosso planeta deveria ser o destaque diário da pauta da nossa sociedade.