Narzędzia wykrywające deepfakes muszą działać na wszystkich odcieniach skóry, aby uniknąć stronniczości – ostrzegają eksperci

Większość detektorów Deepfake opiera się na strategii uczenia się, która w dużym stopniu zależy od zbioru danych użytych do jej szkolenia. Następnie wykorzystują sztuczną inteligencję do wykrywania sygnałów, które mogą nie być wyraźne dla ludzkiego oka.

Czym są deepfakes? | Glosariusz Newsverso 

Deepfake to technika manipulacji filmami i obrazami, która wykorzystuje algorytmy uczenia maszynowego do tworzenia fałszywych i przekonujących treści. Łączy moc obliczeniową nowoczesnych komputerów z zaawansowanymi technikami sztucznej inteligencji, umożliwiając tworzenie filmów, które wydają się autentyczne, ale w rzeczywistości są całkowicie sfabrykowane.

Może to obejmować monitorowanie przepływu krwi i tętna. Jednak te metody wykrywania nie zawsze działają w przypadku osób o ciemniejszych odcieniach skóry i, Jeśli zestawy szkoleniowe nie zawierają wszystkich grup etnicznych, akcentów, płci, wieku i karnacji, mogą podlegać stronniczości– ostrzegają eksperci.

Budowane jest stronniczość

W ciągu ostatnich dwóch lat eksperci w dziedzinie sztucznej inteligencji i wykrywania deepfake wyrażali obawy, twierdząc, że w te systemy wbudowana jest stronniczość.

Rijul Gupta, ekspert ds. mediów syntetycznych, współzałożyciel i dyrektor generalny DeepMedia, która wykorzystuje sztuczną inteligencję i uczenie maszynowe do oceny sygnałów wizualnych i dźwiękowych pod kątem oznak manipulacji syntetycznej, powiedział: „Zbiory danych są zawsze mocno ukierunkowane na białych mężczyzn w średnim wieku, a tego typu technologia zawsze negatywnie wpływa na społeczności marginalizowane".

Skala odcieni skóry mnicha

Ellis Monk, profesor socjologii na Uniwersytecie Harvarda i pracownik naukowy na Uniwersytecie Harvarda Google, opracował Skala odcieni skóry mnicha. 

Jest to skala bardziej inkluzywna niż standard branżowy i zapewnia szersze spektrum odcieni skóry, które można wykorzystać w zbiorach danych i modelach uczenia maszynowego.

Monk powiedział: „Osoby o ciemniejszej karnacji były od początku wykluczane z procesu opracowywania tych różnych form technologii. Musisz zbudować nowe zbiory danych, które będą miały większy zasięg i będą lepiej reprezentowane pod względem odcienia skóry, a to oznacza, że ​​potrzebujesz pewnego rodzaju miary, która będzie wystandaryzowana, spójna i bardziej reprezentatywna niż poprzednie skale.

Przeczytaj także:

Sztuczna inteligencja zmienia kampanie marketingowe; zobacz firmy, które korzystają

Sztuczna inteligencja (AI) zmienia marketing, a reklamodawcy na całym świecie wykorzystują tę technologię do tworzenia bardziej spersonalizowanych i angażujących kampanii.

* Tekst tego artykułu został częściowo wygenerowany przez narzędzia sztucznej inteligencji, najnowocześniejsze modele językowe, które pomagają w przygotowaniu, recenzowaniu, tłumaczeniu i podsumowywaniu tekstów. Wpisy tekstowe zostały utworzone przez Curto Do ulepszenia ostatecznej treści wykorzystano wiadomości i odpowiedzi z narzędzi AI.
Należy podkreślić, że narzędzia AI to tylko narzędzia i ostateczna odpowiedzialność za publikowane treści spoczywa na nich Curto Aktualności. Korzystając z tych narzędzi w sposób odpowiedzialny i etyczny, naszym celem jest poszerzenie możliwości komunikacji i demokratyzacja dostępu do wysokiej jakości informacji. 🤖