Alat yang mengesan deepfakes mesti berfungsi pada semua warna kulit untuk mengelakkan berat sebelah, pakar memberi amaran

Kebanyakan pengesan deepfake adalah berdasarkan strategi pembelajaran yang banyak bergantung pada set data yang digunakan untuk latihannya. Mereka kemudian menggunakan AI untuk mengesan isyarat yang mungkin tidak jelas kepada mata manusia.

Apa itu deepfakes? | Glosari Newsverso 

Deepfake ialah teknik manipulasi video dan imej yang menggunakan algoritma pembelajaran mesin untuk mencipta kandungan palsu dan meyakinkan. Ia menggabungkan kuasa pemprosesan komputer moden dengan teknik kecerdasan buatan termaju, membolehkan penciptaan video yang kelihatan tulen tetapi sebenarnya direka sepenuhnya.

Ini mungkin termasuk memantau aliran darah dan kadar denyutan jantung. Walau bagaimanapun, kaedah pengesanan ini tidak selalu berkesan pada orang yang mempunyai warna kulit yang lebih gelap dan, Jika set latihan tidak mengandungi semua etnik, loghat, jantina, umur dan warna kulit, ia tertakluk kepada berat sebelah, pakar memberi amaran.

Bias sedang dibina

Sejak dua tahun lalu, kebimbangan telah dibangkitkan oleh pakar dalam AI dan pengesanan palsu yang mengatakan berat sebelah sedang dibina ke dalam sistem ini.

Rijul Gupta, pakar media sintetik dan pengasas bersama dan Ketua Pegawai Eksekutif DeepMedia, yang menggunakan AI dan pembelajaran mesin untuk menilai isyarat visual dan audio untuk tanda-tanda manipulasi sintetik, berkata: “Set data sentiasa sangat condong ke arah lelaki kulit putih pertengahan umur, dan jenis teknologi ini sentiasa memberi kesan negatif kepada komuniti terpinggir".

Skala Tona Kulit Monk

Ellis Monk, profesor sosiologi di Universiti Harvard dan sarjana pelawat di Google, membangunkan Skala Tona Kulit Monk. 

Ini adalah skala yang lebih inklusif daripada standard industri teknologi dan akan menyediakan spektrum ton kulit yang lebih luas yang boleh digunakan untuk set data dan model pembelajaran mesin.

Monk berkata: "Orang yang berkulit gelap telah dikecualikan daripada bagaimana bentuk teknologi yang berbeza ini telah dibangunkan sejak awal. Anda perlu membina set data baharu yang mempunyai lebih liputan, lebih representasi dari segi warna kulit dan ini bermakna anda memerlukan beberapa jenis ukuran yang diseragamkan, konsisten dan lebih mewakili daripada skala sebelumnya.”

Baca juga:

AI sedang mengubah kempen pemasaran; lihat syarikat yang menggunakan

Kecerdasan buatan (AI) sedang mengubah pemasaran, dengan pengiklan di seluruh dunia menggunakan teknologi untuk mencipta kempen yang lebih diperibadikan dan menarik.

* Teks artikel ini sebahagiannya dihasilkan oleh alat kecerdasan buatan, model bahasa terkini yang membantu dalam penyediaan, semakan, terjemahan dan ringkasan teks. Entri teks dicipta oleh Curto Berita dan maklum balas daripada alatan AI digunakan untuk menambah baik kandungan akhir.
Adalah penting untuk menyerlahkan bahawa alat AI hanyalah alat, dan tanggungjawab terakhir untuk kandungan yang diterbitkan terletak pada Curto Berita. Dengan menggunakan alat ini secara bertanggungjawab dan beretika, objektif kami adalah untuk mengembangkan kemungkinan komunikasi dan mendemokrasikan akses kepada maklumat berkualiti. 🤖