Funcionalidade do Nightshade
Nightshade foi projetado para alterar sutilmente as imagens no nível do pixel. Embora essas mudanças sejam minimamente visíveis para os humanos, elas enganam significativamente os modelos de inteligência artificial, fazendo com que interpretem mal o conteúdo das imagens.
PUBLICIDADE
Impacto no treinamento de modelos de IA
Quando os modelos de IA são treinados em imagens alteradas com Nightshade, sua capacidade de categorizar objetos com precisão em tarefas futuras fica comprometida. Por exemplo, uma IA pode começar a identificar erroneamente vacas como bolsas em todas as imagens, não apenas naquelas alteradas pelo Nightshade.
Ferramenta como resposta ao uso não regulamentado de dados da IA
Nightshade serve como uma contramedida contra a extração não regulamentada de obras de arte online por modelos de IA. O objetivo é aumentar o custo do treinamento em dados não licenciados, tornando mais viável para os desenvolvedores de inteligência artificial licenciarem imagens diretamente dos criadores.
O Nightshade representa um desenvolvimento significativo na conversa em curso sobre o uso ético de dados em IA, especialmente no que diz respeito aos direitos dos artistas. A sua implementação poderá levar a grandes mudanças na forma como os modelos de IA são treinados e na forma como os dados são obtidos, com implicações mais amplas para a relação entre o desenvolvimento da IA e os direitos de propriedade intelectual.
PUBLICIDADE
Leia também:
