Meta memberi amaran tentang perisian hasad yang berpura-pura menjadi kecerdasan buatan

Pada bulan April, penganalisis keselamatan gergasi media sosial itu mendapati perisian berniat jahat menyamar sebagai ChatGPT atau alat AI serupa, pengarah keselamatan maklumat Meta, Guy Rosen, memberitahu wartawan.

Dia teringat bahawa pelakon berniat jahat (penggodam, spammer, antara lain) sentiasa memerhatikan trend terkini yang "menangkap imaginasi" orang ramai, seperti ChatGPT. Antara muka ini OpenAI, yang membolehkan dialog cair dengan manusia menghasilkan kod dan teks seperti mesej e-mel dan disertasi, telah menjana semangat yang hebat.

Rosen berkata Meta telah mengesan sambungan pelayar web palsu yang mendakwa mengandungi alat AI generatif, tetapi sebenarnya mengandungi perisian hasad yang direka untuk menjangkiti peranti,

Adalah perkara biasa bagi pelakon jahat untuk menangkap minat pengguna Internet dengan perkembangan yang menarik perhatian, memperdaya orang supaya mengklik pautan yang terperangkap samar atau memuat turun program mencuri data.

"Kami telah melihat ini dalam topik popular lain, seperti penipuan yang didorong oleh minat yang besar dalam mata wang digital," kata Rosen. “Dari perspektif pelakon yang berniat jahat, the ChatGPT ia adalah mata wang kripto baharu”, katanya.

Seribu laman web yang disekat

Meta telah mengesan dan menyekat lebih daripada seribu tapak web yang mempromosikan diri mereka sebagai alat yang serupa dengannya ChatGPT, tetapi yang sebenarnya adalah perangkap yang dicipta oleh penggodam, menurut pasukan keselamatan syarikat teknologi itu.

Gergasi teknologi itu masih belum melihat AI generatif digunakan sebagai sesuatu yang lebih daripada tipu daya oleh penggodam, tetapi ia sedang bersedia untuk digunakan sebagai senjata, sesuatu yang dilihatnya tidak dapat dielakkan, kata Rosen.

"AI Generatif sangat menjanjikan dan pelakon yang tidak baik tahu ini, sebab itu kita semua harus sangat berwaspada," katanya.

Pada masa yang sama, pasukan Meta sedang mencari cara untuk menggunakan AI generatif untuk mempertahankan diri daripada penggodam dan kempen dalam talian menipu mereka.

"Kami mempunyai pasukan yang sudah memikirkan bagaimana (AI generatif) boleh disalahgunakan dan pertahanan yang perlu kami sediakan untuk mengatasinya," kata ketua dasar keselamatan Meta, Nathaniel Gleicher, semasa taklimat yang sama.

"Kami sedang bersiap untuk ini", jaminan Gleicher.