Imej yang diubah oleh AI adalah 'ancaman kepada proses demokrasi', pakar memberi amaran

Pakar memberi amaran bahawa tindakan perlu diambil terhadap penggunaan imej yang dihasilkan oleh kecerdasan buatan (AI) atau dipertingkatkan olehnya dalam politik. Kes terbaharu, yang membangkitkan perbincangan semula, ialah imej dimanipulasi Rishi Sunak, Perdana Menteri Britain, menghidangkan bir.

Posted by

Isabella Caminoto

3 Ogos 2023 14:56 pm

Ahli politik Britain, Karl Turner berkongsi imej di Platform X, sebelum ini Twitter, yang menunjukkan Perdana Menteri minum bir berkualiti rendah pada perayaan, manakala seorang wanita melihat dengan ekspresi mengejek. Imej itu dimanipulasi daripada foto asal, di mana Sunak muncul dengan bir pub, manakala orang di belakangnya mempunyai ekspresi neutral.

Kecerdasan buatan untuk mencipta imej, bagaimana ia berfungsi?

Menjana imej menggunakan kecerdasan buatan adalah proses yang sangat canggih yang melibatkan beberapa langkah. Secara amnya, teknik pengimejan AI adalah berdasarkan rangkaian neural generatif (GAN) atau model aliran autoregresif. Teknik ini menggunakan data sedia ada untuk mempelajari cara menjana imej baharu.

Imej itu mencetuskan kritikan meluas, dengan Timbalan Perdana Menteri Oliver Dowden menyebutnya "tidak boleh diterima".

Pakar memberi amaran bahawa pergaduhan itu adalah petunjuk tentang apa yang boleh berlaku semasa kempen pilihan raya akan datang. Walaupun tidak jelas sama ada imej Sunak telah dimanipulasi menggunakan alat AI, program ini telah menjadikannya lebih mudah dan pantas untuk menghasilkan teks, imej dan audio palsu yang meyakinkan.

Bagaimana untuk mengenal pasti imej yang dihasilkan oleh AI? Tengok

Terdapat Pope yang bergaya, Trump ditangkap, semuanya dihasilkan oleh kecerdasan buatan. Tetapi adakah anda tahu bagaimana untuk mengenal pasti imej palsu yang dijana AI? Lihat petua:

Dewan Wendy, profesor di Universiti Southampton, buat amaran: “Saya fikir penggunaan teknologi digital, termasuk AI, adalah ancaman kepada proses demokrasi kita. Ia sepatutnya menjadi agenda utama dalam daftar risiko AI dengan dua pilihan raya utama – di UK dan AS – menghampiri tahun depan.”

Shweta Singh, seorang pendidik di Universiti Warwick, menambah: “Kami memerlukan satu set prinsip etika yang boleh menjamin dan meyakinkan pengguna teknologi baharu ini bahawa berita yang mereka baca boleh dipercayai. Kita perlu bertindak mengenai perkara ini sekarang, kerana adalah mustahil untuk membayangkan pilihan raya yang adil dan saksama jika peraturan sedemikian tidak wujud. Ia adalah kebimbangan serius dan kami kesuntukan masa.”

Sementara itu, syarikat AI yang paling berkuasa telah menyedari keperluan untuk sistem untuk menandai kandungan yang dijana AI. Bulan lepas, pemaju Amazon, Google, Matlamat, Microsoft e ChatGPT, OpenAI, bersetuju menerima satu set perlindungan baharu dalam pertemuan dengan Joe Biden, yang termasuk penggunaan penanda air untuk kandungan visual dan audio yang dikuasakan AI.

Gergasi AI Amerika bersatu untuk mencari peraturan kendiri

Google, Microsoft, Antropik dan OpenAI, empat daripada syarikat Amerika yang menerajui adegan Kecerdasan Buatan (AI) yang canggih, mengumumkan Rabu ini (26) penciptaan badan profesional baharu untuk memerangi risiko yang berkaitan dengan teknologi ini

Baca juga:

Calon menggunakan imej palsu yang dihasilkan oleh AI untuk meningkatkan kempen; Malah ada pengundi dengan tiga lengan

Kami tidak mempunyai pilihan raya di Brazil tahun ini, tetapi di bahagian lain di dunia kempen sudah berjalan lancar. Calon sedang mengerah untuk menjadi popular, dan ramai daripada mereka cuba melakukan ini dengan menjadi viral di internet. Masalahnya ialah kaedah. Ahli politik mula menggunakan imej yang dicipta oleh kecerdasan buatan (AI) untuk menghasilkan potongan pengiklanan yang mengelirukan dan juga menyerang lawan politik dengan kandungan palsu. faham.

Penyelidik MIT membangunkan teknik untuk melindungi imej daripada manipulasi AI

Penyelidik di Massachusetts Institute of Technology (MIT) telah membangunkan teknik baharu yang dipanggil PhotoGuard yang boleh digunakan untuk melindungi imej daripada manipulasi oleh model kecerdasan buatan (AI).

Catatan ini kali terakhir diubah suai pada 3 Ogos 2023 17:04 petang

Isabella Caminoto

Peguam dan pelajar sarjana dalam Undang-undang Antarabangsa, saya mempunyai demokrasi dan kebebasan sebagai bendera yang tidak dapat dinafikan. Saya meminati haiwan dan percaya bahawa kesejahteraan planet kita harus menjadi sorotan harian agenda masyarakat kita.