Gli strumenti che rilevano i deepfake devono funzionare su tutte le tonalità della pelle per evitare pregiudizi, avvertono gli esperti

La maggior parte dei rilevatori deepfake si basa su una strategia di apprendimento che dipende fortemente dal set di dati utilizzato per la sua formazione. Quindi utilizzano l’intelligenza artificiale per rilevare segnali che potrebbero non essere chiari all’occhio umano.

Cosa sono i deepfake? | Glossario Newsverso 

Un deepfake è una tecnica di manipolazione di video e immagini che utilizza algoritmi di apprendimento automatico per creare contenuti falsi e convincenti. Combina la potenza di elaborazione dei computer moderni con tecniche avanzate di intelligenza artificiale, consentendo la creazione di video che sembrano autentici ma in realtà sono completamente fabbricati.

Ciò può includere il monitoraggio del flusso sanguigno e della frequenza cardiaca. Tuttavia, questi metodi di rilevamento non sempre funzionano su persone con tonalità della pelle più scure e, Se i set di formazione non contengono tutte le etnie, gli accenti, i generi, le età e le tonalità della pelle, sono soggetti a pregiudizi, hanno avvertito gli esperti.

Bias in costruzione

Negli ultimi due anni, sono state sollevate preoccupazioni da parte di esperti di intelligenza artificiale e rilevamento di deepfake, secondo cui in questi sistemi vengono incorporati pregiudizi.

Rijul Gupta, esperto di media sintetici e co-fondatore e CEO di DeepMedia, che utilizza l'intelligenza artificiale e l'apprendimento automatico per valutare segnali visivi e audio per segni di manipolazione sintetica, ha dichiarato: "I set di dati sono sempre fortemente sbilanciati verso gli uomini bianchi di mezza età e questo tipo di tecnologia ha sempre un impatto negativo sulle comunità emarginate".

Scala del tono della pelle del monaco

Ellis Monk, professore di sociologia all'Università di Harvard e visiting fellow presso la Google, ha sviluppato il Scala del tono della pelle del monaco. 

È una scala più inclusiva rispetto allo standard del settore tecnologico e fornirà uno spettro più ampio di tonalità della pelle che possono essere utilizzate per set di dati e modelli di apprendimento automatico.

Monk ha dichiarato: “Le persone dalla pelle più scura sono state escluse fin dall’inizio dal modo in cui queste diverse forme di tecnologia sono state sviluppate. È necessario creare nuovi set di dati che abbiano una maggiore copertura, una maggiore rappresentazione in termini di tono della pelle e ciò significa che è necessario un qualche tipo di misura che sia standardizzata, coerente e più rappresentativa rispetto alle scale precedenti”.

Leggi anche:

L’intelligenza artificiale sta trasformando le campagne di marketing; vedere le aziende che utilizzano

L’intelligenza artificiale (AI) sta trasformando il marketing, con gli inserzionisti di tutto il mondo che utilizzano la tecnologia per creare campagne più personalizzate e coinvolgenti.

* Il testo di questo articolo è stato parzialmente generato da strumenti di intelligenza artificiale, modelli linguistici all'avanguardia che aiutano nella preparazione, revisione, traduzione e sintesi dei testi. Le voci di testo sono state create da Curto Notizie e risposte dagli strumenti di intelligenza artificiale sono state utilizzate per migliorare il contenuto finale.
È importante sottolineare che gli strumenti di intelligenza artificiale sono solo strumenti e la responsabilità finale del contenuto pubblicato spetta a loro Curto Notizia. Utilizzando questi strumenti in modo responsabile ed etico, il nostro obiettivo è espandere le possibilità di comunicazione e democratizzare l'accesso a informazioni di qualità. 🤖