Meta menyetujui iklan politik di India yang mengandung ujaran kebencian dan misinformasi, menghasut kekerasan terhadap umat Islam. Gambar dimanipulasi oleh inteligência buatan (AI) luput dari perhatian sistem perusahaan dan melanggar kebijakannya sendiri.
PUBLISITAS
A meta mengambil keuntungan dari iklan yang melanggar undang-undang pemilu dan menyebarkan ujaran kebencian, bahkan setelahnya promess untuk memerangi disinformasi.
Perusahaan gagal melindungi penggunanya dan demokrasi Indian, menuntut tindakan segera untuk mencegah hal ini terjadi lagi.
Detail kegagalan meta
- Meta mengizinkan penerbitan iklan yang memfitnah umat Islam, menyerukan eksekusi mereka, dan menyebarkan disinformasi tentang pemimpin politik.
- Pengumuman tersebut dikirim oleh India Civil Watch International (ICWI) dan Ekō untuk menguji mekanisme Meta terhadap konten berbahaya.
- Meta gagal mendeteksi bahwa iklan tersebut menggunakan gambar yang dimanipulasi oleh AI promeharus melawan mereka.
- Lima iklan ditolak karena melanggar kebijakan Meta, namun 14 iklan disetujui meskipun melanggar aturan yang sama.
- Meta tidak menyadari bahwa iklan tersebut bersifat politis, sehingga memungkinkan iklan tersebut melanggar undang-undang pemilu India.
- Perusahaan mendapat keuntungan dari iklan tersebut, meskipun iklan tersebut menghasut kekerasan dan melanggar hukum.
- Meta sebelumnya telah dikritik karena gagal memerangi ujaran kebencian Islamofobia pada platformnya di India.
- Nick Clegg, presiden urusan global di Meta, mengakui bahwa perusahaannya gagal mengatasi misinformasi dalam pemilu India.
Perusahaan perlu mengambil tindakan segera
- Tingkatkan mekanisme deteksi Anda terhadap konten berbahaya, termasuk gambar yang dimanipulasi AI.
- Menerapkan kebijakan yang lebih ketat terhadap ujaran kebencian dan disinformasi, terutama dalam konteks politik.
- Bekerja sama dengan pihak berwenang dan organisasi masyarakat sipil untuk memerangi penyebaran konten berbahaya di platform mereka.
- Bersikaplah lebih transparan tentang tindakan Anda dan bertanggung jawab atas kesalahan Anda.
Tindakan yang disarankan
- Pengguna meta harus melaporkan konten berbahaya apa pun yang mereka temui di platform perusahaan.
- Organisasi masyarakat sipil dan aktivis harus menekan Meta untuk mengambil tindakan yang lebih tegas terhadap ujaran kebencian dan disinformasi.
- Pemerintah harus mempertimbangkan untuk mengatur perusahaan media sosial untuk memastikan mereka melindungi penggunanya dan demokrasi.
Baca juga:
