Adakah AI mendatangkan bahaya kepada proses pilihan raya demokratik?

Kajian terbaru oleh Check Point Software Technologies, penyedia penyelesaian keselamatan siber, menganalisis potensi kesan AI generatif pada pilihan raya demokratik yang akan datang. Para penyelidik mengenal pasti dua risiko utama:

• Manipulasi pengundi: AI boleh digunakan untuk mencipta teks yang diperibadikan yang sukar dibezakan daripada teks tulisan manusia. Ini boleh digunakan untuk memanipulasi pengundi dengan menyebarkan maklumat yang salah atau propaganda.
• Fitnah calon: AI boleh digunakan untuk mencipta video dan imej palsu, yang cukup realistik untuk kelihatan tulen. Ini boleh digunakan untuk memfitnah calon atau menyebarkan berita palsu.

Penyelidik memberi amaran bahawa risiko ini adalah nyata dan memerlukan pendekatan pelbagai aspek untuk mengurangkan. Mereka menyerlahkan keperluan untuk:

• Mendidik pengundi tentang potensi manipulasi AI.
• Membangunkan alat untuk mengesan dan memerangi maklumat salah dan propaganda.
• Kawal selia penggunaan AI dalam kempen politik.

AI boleh mengganggu proses demokrasi, tetapi manusia mesti belajar untuk membezakan maklumat

Pendidikan pengundi adalah penting supaya mereka dapat membezakan antara maklumat yang benar dan palsu. Pengundi mesti dapat mengenal pasti tanda-tanda kandungan yang dimanipulasi, seperti kesilapan bahasa atau ketidakkonsistenan fakta.

Kajian itu juga menunjukkan bahawa adalah penting untuk membangunkan alat untuk mengesan dan memerangi maklumat salah dan propaganda. Alat ini boleh menggunakan kecerdasan buatan untuk mengenal pasti kandungan yang dimanipulasi dan memberi amaran kepada pengundi.

Akhir sekali, mengikut garis panduan Check Point, adalah perlu untuk mempertimbangkan untuk mengawal selia penggunaan AI dalam kempen politik. Ini boleh termasuk peraturan untuk mengehadkan penggunaan deepfakes atau memerlukan pengenalpastian kandungan yang dijana AI.

Perlu diingat bahawa baru-baru ini, dalam pratonton pilihan raya AS, dan dalam kempen di Kanada, imej yang dijana oleh AI untuk kempen telah menimbulkan kebimbangan tentang penyalahgunaan teknologi untuk maklumat yang salah.

Lihat juga:

Microsoft meminta pendaftaran paten untuk beg galas pembantu AI; aksesori akan dapat menceritakan persekitaran

A Microsoft memfailkan permohonan paten bulan lepas untuk beg galas kecerdasan buatan yang boleh memberikan bantuan kepada pengguna berdasarkan persekitaran di sekeliling mereka.

ANALISIS: Persekitaran awan ialah elemen utama untuk melaksanakan kecerdasan buatan

Kecerdasan buatan (AI) tidak lagi menjadi pembeza dan telah menjadi satu keperluan dalam dunia yang semakin digital dan dipacu data. Syarikat dan profesional yang tidak mengguna pakai AI pada tahun-tahun akan datang akan mempunyai kesan yang ketara terhadap daya saing mereka dan, kemungkinan besar, akan (dan akan) ketinggalan zaman.

* Teks artikel ini sebahagiannya dihasilkan oleh alat kecerdasan buatan, model bahasa terkini yang membantu dalam penyediaan, semakan, terjemahan dan ringkasan teks. Entri teks dicipta oleh Curto Berita dan maklum balas daripada alatan AI digunakan untuk menambah baik kandungan akhir.
Adalah penting untuk menyerlahkan bahawa alat AI hanyalah alat, dan tanggungjawab terakhir untuk kandungan yang diterbitkan terletak pada Curto Berita. Dengan menggunakan alat ini secara bertanggungjawab dan beretika, objektif kami adalah untuk mengembangkan kemungkinan komunikasi dan mendemokrasikan akses kepada maklumat berkualiti. 🤖