Verktøy som oppdager deepfakes må fungere på alle hudtoner for å unngå skjevhet, advarer eksperter

De fleste detektorer deepfake er basert på en læringsstrategi som er sterkt avhengig av datasettet som brukes til opplæringen. De bruker deretter AI for å oppdage signaler som kanskje ikke er klare for det menneskelige øyet.

Hva er deepfakes? | Newsverso ordliste 

En deepfake er en video- og bildemanipulasjonsteknikk som bruker maskinlæringsalgoritmer for å lage falskt og overbevisende innhold. Den kombinerer prosessorkraften til moderne datamaskiner med avanserte teknikker for kunstig intelligens, noe som gjør det mulig å lage videoer som virker autentiske, men som faktisk er fullstendig fabrikkerte.

Dette kan inkludere overvåking av blodstrøm og hjertefrekvens. Disse deteksjonsmetodene fungerer imidlertid ikke alltid på personer med mørkere hudtoner og, Hvis treningssett ikke inneholder alle etnisiteter, aksenter, kjønn, aldre og hudtoner, er de utsatt for skjevhet, advarte eksperter.

Bias bygges

I løpet av de siste to årene har det blitt reist bekymringer fra eksperter innen AI og deepfake-deteksjon som sier at skjevhet bygges inn i disse systemene.

Rijul Gupta, ekspert på syntetiske medier og medgründer og administrerende direktør i DeepMedia, som bruker AI og maskinlæring for å evaluere visuelle og lydsignaler for tegn på syntetisk manipulasjon, sa: "Datasett er alltid sterkt skjevt mot middelaldrende hvite menn, og denne typen teknologi påvirker alltid marginaliserte samfunn negativt".

Munk hudtoneskala

Ellis Monk, professor i sosiologi ved Harvard University og gjesteforsker ved Google, utviklet Munk hudtoneskala. 

Det er en mer inkluderende skala enn den tekniske industristandarden og vil gi et bredere spekter av hudfarger som kan brukes til datasett og maskinlæringsmodeller.

Monk sa: "Mørkere med hud har blitt ekskludert fra hvordan disse forskjellige formene for teknologi har blitt utviklet fra begynnelsen. Du må bygge nye datasett som har mer dekning, mer representasjon når det gjelder hudtone, og det betyr at du trenger et slags mål som er standardisert, konsistent og mer representativt enn tidligere skalaer.»

Les også:

AI transformerer markedsføringskampanjer; se selskaper som bruker

Kunstig intelligens (AI) transformerer markedsføring, med annonsører over hele verden som bruker teknologien til å lage mer personlig tilpassede og engasjerende kampanjer.

* Teksten til denne artikkelen ble delvis generert av verktøy for kunstig intelligens, toppmoderne språkmodeller som hjelper til med utarbeidelse, gjennomgang, oversettelse og oppsummering av tekster. Tekstoppføringer ble opprettet av Curto Nyheter og svar fra AI-verktøy ble brukt til å forbedre det endelige innholdet.
Det er viktig å fremheve at AI-verktøy bare er verktøy, og det endelige ansvaret for det publiserte innholdet ligger hos Curto Nyheter. Ved å bruke disse verktøyene ansvarlig og etisk, er vårt mål å utvide kommunikasjonsmuligheter og demokratisere tilgang til kvalitetsinformasjon. 🤖