Ang mga tool na nakakakita ng mga deepfakes ay dapat gumana sa lahat ng kulay ng balat upang maiwasan ang bias, babala ng mga eksperto

Karamihan sa mga detector malalim ay batay sa isang diskarte sa pag-aaral na lubos na nakadepende sa dataset na ginamit para sa pagsasanay nito. Pagkatapos ay ginagamit nila ang AI upang makita ang mga signal na maaaring hindi malinaw sa mata ng tao.

Ano ang deepfakes? | Glossary ng Newsverso 

Ang deepfake ay isang diskarte sa pagmamanipula ng video at larawan na gumagamit ng mga algorithm ng machine learning para gumawa ng mali at nakakumbinsi na content. Pinagsasama nito ang kapangyarihan sa pagpoproseso ng mga modernong computer na may mga advanced na diskarte sa artificial intelligence, na nagpapahintulot sa paggawa ng mga video na mukhang tunay ngunit sa katunayan ay ganap na gawa-gawa.

Maaaring kabilang dito ang pagsubaybay sa daloy ng dugo at tibok ng puso. Gayunpaman, ang mga paraan ng pagtuklas na ito ay hindi palaging gumagana sa mga taong may mas madidilim na kulay ng balat at, Kung ang mga set ng pagsasanay ay hindi naglalaman ng lahat ng etniko, accent, kasarian, edad, at kulay ng balat, sila ay napapailalim sa bias, babala ng mga eksperto.

Binubuo ang bias

Sa nakalipas na dalawang taon, ang mga alalahanin ay ibinangon ng mga eksperto sa AI at deepfake detection na nagsasabing ang bias ay binuo sa mga system na ito.

Si Rijul Gupta, eksperto sa synthetic media at co-founder at CEO ng DeepMedia, na gumagamit ng AI at machine learning upang suriin ang mga visual at audio cues para sa mga palatandaan ng synthetic na pagmamanipula, ay nagsabi: "Ang mga set ng data ay palaging nakahilig nang husto patungo sa nasa katanghaliang-gulang na mga puting lalaki, at ang ganitong uri ng teknolohiya ay palaging negatibong nakakaapekto sa mga marginalized na komunidad".

Sukat ng Tono ng Balat ng monghe

Ellis Monk, propesor ng sosyolohiya sa Harvard University at visiting scholar sa Google, binuo ang Sukat ng Tono ng Balat ng monghe. 

Ito ay isang mas inklusibong sukat kaysa sa tech industry standard at magbibigay ng mas malawak na spectrum ng skin tones na magagamit para sa mga dataset at machine learning model.

Sinabi ni Monk: "Ang mga taong mas maitim ang balat ay hindi kasama sa kung paano nabuo ang iba't ibang anyo ng teknolohiya mula pa sa simula. Kailangan mong bumuo ng mga bagong dataset na may higit na saklaw, higit na representasyon sa mga tuntunin ng kulay ng balat at nangangahulugan iyon na kailangan mo ng ilang uri ng sukat na standardized, pare-pareho at higit na kinatawan kaysa sa mga naunang sukat."

Basahin din:

Binabago ng AI ang mga kampanya sa marketing; tingnan ang mga kumpanyang gumagamit

Binabago ng artificial intelligence (AI) ang marketing, kung saan ginagamit ng mga advertiser sa buong mundo ang teknolohiya para gumawa ng mas personalized at nakakaengganyong mga campaign.

* Ang teksto ng artikulong ito ay bahagyang nabuo ng mga tool ng artificial intelligence, mga makabagong modelo ng wika na tumutulong sa paghahanda, pagsusuri, pagsasalin at pagbubuod ng mga teksto. Ang mga text entry ay nilikha ng Curto Ang mga balita at tugon mula sa mga tool ng AI ay ginamit upang pahusayin ang panghuling nilalaman.
Mahalagang i-highlight na ang mga tool ng AI ay mga tool lamang, at ang huling responsibilidad para sa na-publish na nilalaman ay nakasalalay sa Curto Balita. Sa pamamagitan ng paggamit ng mga tool na ito nang responsable at etikal, ang aming layunin ay palawakin ang mga posibilidad sa komunikasyon at gawing demokrasya ang pag-access sa de-kalidad na impormasyon. 🤖