Kecerdasan Buatan untuk melindungi mangsa dan memerangi sextortion

Manakala penjenayah menggunakan kecerdasan buatan untuk mencipta imej seksual dan menggunakannya untuk sextortion, teknologi yang sama boleh membantu menghalang amalan yang hanya berkembang di seluruh dunia.

“Sextortion”: deepfakes dan Kecerdasan Buatan mendorong gelombang peras ugut seksual di internet

Kecerdasan buatan yang menghasilkan "deepfakes" mendorong pemerasan seksual atau skim pemerasan seksual, amaran FBI. Menurut polis persekutuan AS, bilangan kes sextortion yang dilaporkan di AS meningkat sebanyak 322% antara Februari 2022 dan Februari 2023. Amalan ini telah menyaksikan peningkatan yang ketara sejak April, apabila imej yang diubah suai AI mula beredar di internet . Sebagai tambahan kepada pertukaran "bogel" yang tidak bersalah, golongan muda kini perlu bimbang tentang herotan gambar yang kelihatan tidak berbahaya yang disiarkan di rangkaian sosial.

Seorang profesor kejuruteraanaria elektrik dan sains komputer di Universiti Berkley di California, membangunkan teknologi pemprosesan bahasa semula jadi (NLP) untuk menganalisis komunikasi dalam talian dan mengenal pasti potensi ancaman.

Hany Farid, yang merupakan sebahagian daripada Projek Counter Extremism - sebuah NGO yang memerangi ekstremisme dan keganasan dalam talian - menggunakan NLP untuk kes-kes yang disyaki gangguan seks internet dan mengenal pasti corak tingkah laku dan bahasa yang mencadangkan pemerasan dan pemerasan. Teknologi ini mengesan permintaan untuk maklumat peribadi, kandungan seksual yang tidak diminta, ancaman, manipulasi atau gangguan terhadap mangsa.

Melalui NLP, AI juga menjana respons automatik untuk menghalang pemangsa yang berpotensi dengan memaklumkan kepada mereka akibat undang-undang sekstortion. Dan ia juga boleh membantu agensi penguatkuasaan undang-undang di seluruh AS dengan maklumat dan bukti berguna untuk mengenal pasti dan mengesan penjenayah, selain menyelamatkan mangsa.

Menurut laman web BNN bebas, AI mengekstrak metadata daripada komunikasi dalam talian, seperti alamat IP, lokasi geografi, masa dan maklumat peranti, membantu menjejaki asal dan destinasi komunikasi serta memautkannya kepada identiti sebenar.

Syarikat yang pakar dalam AI mengesan imej seksual yang nyata atau 'deepfake' yang jelas yang boleh digunakan dalam sextortion

Gambar-gambar tidak bersalah yang diambil di pantai dan disiarkan oleh remaja boleh diputarbelitkan menjadi "deepfakes" dan bertukar menjadi imej seksual eksplisit, digunakan untuk sextortion.

Syarikat Amerika Utara Canopy telah membangunkan perisian yang mengenal pasti imej ini pada komputer atau telefon bimbit kanak-kanak dan remaja dan boleh menyekatnya. Malah gambar bikini yang tidak bersalah disekat daripada dihantar, menghantar amaran kepada ibu bapa.

"Teknologi kami boleh mengecam imej dalam foto atau video dalam pecahan sesaat," kata Litwin Fox News Digital.

"Platform itu sendiri juga menapis sebarang imej eksplisit dalam masa nyata semasa kanak-kanak itu melayari laman web atau aplikasi, menghalang kanak-kanak di bawah umur daripada mengakses internet," katanya.

Sumber: BNN dan Fox News Digital

Baca juga:

WormGPT, alat yang serupa dengan ChatGPT, sedang digunakan untuk jenayah siber di web gelap

Alat AI yang dipanggil WormGPT, serupa dengan alat kejayaan OpenAI, sedang digunakan oleh penggodam untuk melakukan serangan menggunakan e-mel pada skala yang tidak pernah dilihat sebelum ini.

Kecerdasan buatan mendorong pornografi kanak-kanak di internet

Dengan ledakan populariti kecerdasan buatan generatif, syarikat, orang dan perhubungan telah berubah. Kini, masalah baharu yang melibatkan AI sudah menimbulkan kebimbangan di kalangan pihak berkuasa. Di web gelap, penjenayah menyebarkan pornografi kanak-kanak dengan bantuan alat penjana imej AI, kata pakar. faham.