Els experts adverteixen que les eines que detecten deepfakes han de funcionar en tots els tons de pell per evitar el biaix

La majoria de detectors deepfake es basa en una estratègia d'aprenentatge que depèn en gran mesura del conjunt de dades utilitzat per a la seva formació. A continuació, utilitzen la IA per detectar senyals que poden no ser clars per a l'ull humà.

Què són els deepfakes? | Newsverso Glossari 

Un deepfake és una tècnica de manipulació de vídeos i imatges que utilitza algorismes d'aprenentatge automàtic per crear contingut fals i convincent. Combina la potència de processament dels ordinadors moderns amb tècniques avançades d'intel·ligència artificial, permetent la creació de vídeos que semblen autèntics però que de fet estan completament fabricats.

Això pot incloure el control del flux sanguini i la freqüència cardíaca. Tanmateix, aquests mètodes de detecció no sempre funcionen en persones amb tons de pell més foscos i, Si els conjunts d'entrenament no contenen totes les ètnies, accents, gèneres, edats i tons de pell, estan subjectes a biaix., van advertir els experts.

Es construeix biaix

Durant els últims dos anys, els experts en IA i detecció de falsificacions profundes han plantejat preocupacions que diuen que s'està incorporant biaix en aquests sistemes.

Rijul Gupta, expert en mitjans sintètics i cofundador i CEO de DeepMedia, que utilitza IA i aprenentatge automàtic per avaluar senyals visuals i d'àudio per a signes de manipulació sintètica, va dir: "Els conjunts de dades sempre estan molt esbiaixats cap als homes blancs de mitjana edat, i aquest tipus de tecnologia sempre afecta negativament les comunitats marginades.".

Escala de to de pell de monjo

Ellis Monk, professora de sociologia a la Universitat de Harvard i investigadora visitant Google, va desenvolupar el Escala de to de pell de monjo. 

És una escala més inclusiva que l'estàndard de la indústria tecnològica i oferirà un espectre més ampli de tons de pell que es poden utilitzar per a conjunts de dades i models d'aprenentatge automàtic.

Monk va dir: "Les persones de pell més fosca han estat excloses de com s'han desenvolupat aquestes diferents formes de tecnologia des del principi. Heu de crear nous conjunts de dades que tinguin més cobertura, més representació en termes de to de pell i això vol dir que necessiteu algun tipus de mesura que sigui estandarditzada, coherent i més representativa que les escales anteriors".

Llegiu també:

La IA està transformant les campanyes de màrqueting; veure empreses que estan utilitzant

La intel·ligència artificial (IA) està transformant el màrqueting, i els anunciants de tot el món utilitzen la tecnologia per crear campanyes més personalitzades i atractives.

* El text d'aquest article ha estat generat parcialment per eines d'intel·ligència artificial, models de llenguatge d'última generació que ajuden a la preparació, revisió, traducció i resum de textos. Les entrades de text les va crear Curto Les notícies i les respostes d'eines d'IA es van utilitzar per millorar el contingut final.
És important destacar que les eines d'IA són només eines i la responsabilitat final del contingut publicat recau en el Curto Notícies. Amb un ús responsable i ètic d'aquestes eines, el nostre objectiu és ampliar les possibilitats de comunicació i democratitzar l'accés a la informació de qualitat. 🤖