Værktøjer, der registrerer deepfakes, skal virke på alle hudfarver for at undgå skævhed, advarer eksperter

De fleste detektorer deepfake er baseret på en læringsstrategi, der i høj grad afhænger af det datasæt, der bruges til træningen. De bruger derefter AI til at detektere signaler, der måske ikke er tydelige for det menneskelige øje.

Hvad er deepfakes? | Newsverso ordliste 

En deepfake er en video- og billedmanipulationsteknik, der bruger maskinlæringsalgoritmer til at skabe falsk og overbevisende indhold. Den kombinerer processorkraften fra moderne computere med avancerede kunstig intelligens-teknikker, hvilket gør det muligt at skabe videoer, der ser autentiske ud, men som faktisk er fuldstændigt fabrikerede.

Dette kan omfatte overvågning af blodgennemstrømning og hjertefrekvens. Disse detektionsmetoder virker dog ikke altid på mennesker med mørkere hudtoner og, Hvis træningssæt ikke indeholder alle etniciteter, accenter, køn, aldre og hudfarver, er de underlagt bias, advarede eksperter.

Bias bliver bygget

I løbet af de sidste to år er bekymringer blevet rejst af eksperter i kunstig intelligens og deepfake-detektion, som siger, at der er indbygget skævhed i disse systemer.

Rijul Gupta, ekspert i syntetiske medier og medstifter og administrerende direktør for DeepMedia, som bruger kunstig intelligens og maskinlæring til at evaluere visuelle og lydsignaler for tegn på syntetisk manipulation, sagde: "Datasæt er altid stærkt skæve til midaldrende hvide mænd, og denne type teknologi påvirker altid marginaliserede samfund negativt".

Munk hudtoneskala

Ellis Monk, professor i sociologi ved Harvard University og gæsteforsker ved Google, udviklede Munk hudtoneskala. 

Det er en mere inkluderende skala end den tekniske industristandard og vil give et bredere spektrum af hudfarver, der kan bruges til datasæt og maskinlæringsmodeller.

Monk sagde: "Mørkere i huden er blevet udelukket fra, hvordan disse forskellige former for teknologi er blevet udviklet fra begyndelsen. Du skal bygge nye datasæt, der har mere dækning, mere repræsentation med hensyn til hudtone, og det betyder, at du har brug for en form for måling, der er standardiseret, konsistent og mere repræsentativ end tidligere skalaer."

Læs også:

AI transformerer marketingkampagner; se virksomheder, der bruger

Kunstig intelligens (AI) transformerer marketing, hvor annoncører over hele verden bruger teknologien til at skabe mere personlige og engagerende kampagner.

* Teksten i denne artikel er delvist genereret af kunstig intelligensværktøjer, avancerede sprogmodeller, der hjælper med at forberede, gennemgå, oversætte og sammenfatte tekster. Tekstindtastninger blev oprettet af Curto Nyheder og svar fra AI-værktøjer blev brugt til at forbedre det endelige indhold.
Det er vigtigt at fremhæve, at AI-værktøjer kun er værktøjer, og det endelige ansvar for det offentliggjorte indhold ligger hos Curto Nyheder. Ved at bruge disse værktøjer ansvarligt og etisk er vores mål at udvide kommunikationsmulighederne og demokratisere adgangen til kvalitetsinformation. 🤖