Instrumentele care detectează deepfake-urile trebuie să funcționeze pe toate tonurile de piele pentru a evita părtinirea, avertizează experții

Majoritatea detectoarelor deepfake se bazează pe o strategie de învățare care depinde în mare măsură de setul de date utilizat pentru formarea sa. Apoi folosesc AI pentru a detecta semnale care ar putea să nu fie clare pentru ochiul uman.

Ce sunt deepfake-urile? | Glosar Newsverso 

Un deepfake este o tehnică de manipulare a imaginilor și a videoclipurilor care utilizează algoritmi de învățare automată pentru a crea conținut fals și convingător. Combină puterea de procesare a computerelor moderne cu tehnici avansate de inteligență artificială, permițând crearea de videoclipuri care par autentice, dar sunt de fapt complet fabricate.

Aceasta poate include monitorizarea fluxului sanguin și a ritmului cardiac. Cu toate acestea, aceste metode de detectare nu funcționează întotdeauna la persoanele cu tonuri de piele mai închise și, Dacă seturile de antrenament nu conțin toate etniile, accentele, genurile, vârstele și nuanțele pielii, acestea sunt supuse părtinirii, au avertizat experții.

Se construiește părtinire

În ultimii doi ani, experții în inteligența artificială și detectarea deepfake-ului au exprimat îngrijorări care spun că în aceste sisteme este integrată părtinire.

Rijul Gupta, expert în mass-media sintetică și co-fondator și CEO al DeepMedia, care utilizează inteligența artificială și învățarea automată pentru a evalua indicii vizuale și audio pentru semne de manipulare sintetică, a spus: „Seturile de date sunt întotdeauna puternic denaturate către bărbații albi de vârstă mijlocie, iar acest tip de tehnologie are întotdeauna un impact negativ asupra comunităților marginalizate.".

Scara de nuanță a pielii călugărului

Ellis Monk, profesor de sociologie la Universitatea Harvard și cercetător invitat la Google, a dezvoltat Scara de nuanță a pielii călugărului. 

Este o scară mai incluzivă decât standardul industriei tehnologice și va oferi un spectru mai larg de tonuri de piele care pot fi utilizate pentru seturi de date și modele de învățare automată.

Monk a spus: „Oamenii cu pielea mai închisă au fost excluși din modul în care au fost dezvoltate aceste diferite forme de tehnologie încă de la început. Trebuie să construiți noi seturi de date care să aibă mai multă acoperire, mai multă reprezentare în ceea ce privește nuanța pielii și asta înseamnă că aveți nevoie de un fel de măsură care este standardizată, consecventă și mai reprezentativă decât scalele anterioare.”

Citește și:

AI transformă campaniile de marketing; vezi companiile care folosesc

Inteligența artificială (AI) transformă marketingul, agenții de publicitate din întreaga lume folosind tehnologia pentru a crea campanii mai personalizate și mai captivante.

* Textul acestui articol a fost parțial generat de instrumente de inteligență artificială, modele de limbaj de ultimă generație care ajută la pregătirea, revizuirea, traducerea și rezumarea textelor. Intrările de text au fost create de către Curto Știrile și răspunsurile de la instrumentele AI au fost folosite pentru a îmbunătăți conținutul final.
Este important de subliniat că instrumentele AI sunt doar instrumente, iar responsabilitatea finală pentru conținutul publicat revine Curto Știri. Folosind aceste instrumente în mod responsabil și etic, obiectivul nostru este extinderea posibilităților de comunicare și democratizarea accesului la informații de calitate. 🤖