Verktyg som upptäcker deepfakes måste fungera på alla hudtoner för att undvika partiskhet, varnar experter

De flesta detektorer deepfake baseras på en inlärningsstrategi som är starkt beroende av den datauppsättning som används för utbildningen. De använder sedan AI för att upptäcka signaler som kanske inte är tydliga för det mänskliga ögat.

Vad är deepfakes? | Newsverso ordlista 

En deepfake är en video- och bildmanipuleringsteknik som använder maskininlärningsalgoritmer för att skapa falskt och övertygande innehåll. Den kombinerar processorkraften hos moderna datorer med avancerad artificiell intelligens, vilket gör det möjligt att skapa videor som verkar autentiska men som faktiskt är helt tillverkade.

Detta kan innefatta övervakning av blodflödet och hjärtfrekvensen. Dessa detektionsmetoder fungerar dock inte alltid på personer med mörkare hudtoner och, Om träningsseten inte innehåller alla etniciteter, accenter, kön, åldrar och hudtoner är de föremål för partiskhet, varnade experter.

Bias byggs

Under de senaste två åren har oro väckts av experter inom AI och deepfake-detektion som säger att partiskhet byggs in i dessa system.

Rijul Gupta, syntetisk mediaexpert och medgrundare och VD för DeepMedia, som använder AI och maskininlärning för att utvärdera visuella och ljudsignaler för tecken på syntetisk manipulation, sa: "Datauppsättningar är alltid kraftigt snedställda mot medelålders vita män, och denna typ av teknik påverkar alltid marginaliserade samhällen negativt".

Munk hudtonskala

Ellis Monk, professor i sociologi vid Harvard University och gästforskare vid Google, utvecklade Munk hudtonskala. 

Det är en mer inkluderande skala än den tekniska industristandarden och kommer att ge ett bredare spektrum av hudtoner som kan användas för datauppsättningar och maskininlärningsmodeller.

Monk sa: "Mörkarhyade människor har exkluderats från hur dessa olika former av teknik har utvecklats från början. Du behöver bygga nya datamängder som har mer täckning, mer representation när det gäller hudton och det betyder att du behöver någon form av mått som är standardiserat, konsekvent och mer representativt än tidigare skalor.”

Läs också:

AI förändrar marknadsföringskampanjer; se företag som använder

Artificiell intelligens (AI) förändrar marknadsföringen, där annonsörer runt om i världen använder tekniken för att skapa mer personliga och engagerande kampanjer.

* Texten i den här artikeln genererades delvis av verktyg för artificiell intelligens, toppmoderna språkmodeller som hjälper till att förbereda, granska, översätta och sammanfatta texter. Textposter skapades av Curto Nyheter och svar från AI-verktyg användes för att förbättra det slutliga innehållet.
Det är viktigt att betona att AI-verktyg bara är verktyg, och det slutliga ansvaret för det publicerade innehållet ligger hos Curto Nyheter. Genom att använda dessa verktyg på ett ansvarsfullt och etiskt sätt är vårt mål att utöka kommunikationsmöjligheterna och demokratisera tillgången till kvalitetsinformation. 🤖