Penyelidik MIT membangunkan teknik untuk melindungi imej daripada manipulasi AI

Teknik ini menggunakan pelarasan kecil yang tidak dapat dilihat oleh mata manusia untuk mengelirukan model AI, menjadikannya mustahil untuk mereka memanipulasi imej. Teknik tersebut telah dipersembahkan secara rasmi pada hari Isnin (31).

Penyelidik percaya bahawa PhotoGuard boleh digunakan untuk melindungi pelbagai imej, termasuk foto peribadi, imej berita dan bukti jenayah. Teknik ini telah pun diuji pada beberapa model AI yang berbeza dan telah terbukti berkesan dalam melindungi daripada manipulasi dalam kesemuanya.

Pembangunan PhotoGuard adalah tindak balas kepada peningkatan risiko manipulasi imej AI. Apabila model AI menjadi lebih berkuasa, mereka dapat memanipulasi imej dengan lebih realistik dan tidak dapat dibezakan daripada imej sebenar. Ini boleh digunakan untuk tujuan jahat, seperti menyebarkan maklumat salah atau memeras ugut orang.

Dalam video kita boleh memahami cara alat itu berfungsi:

PhotoGuard ialah teknik yang menambahkan perubahan kecil yang tidak dapat dilihat oleh mata manusia pada imej. Perubahan ini direka untuk mengelirukan model AI, menjadikannya mustahil untuk mereka memanipulasi imej.

Alat ini berfungsi menggunakan dua kaedah berbeza:

• Serangan pengekod memperkenalkan pelarasan kecil kepada perwakilan matematik imej. Ini menjadikan model AI menganggap imej sebagai entiti rawak.
• Serangan penyebaran memperkenalkan pelarasan kecil kepada imej sebenar. Ini menjadikan imej kelihatan herot kepada model AI, menjadikannya mustahil untuk dimanipulasi.

Penyelesaian itu telah diuji pada beberapa model AI yang berbeza dan telah terbukti berkesan dalam melindungi daripada manipulasi merentas kesemuanya, menurut komuniti MIT. Penyelidik percaya PhotoGuard boleh digunakan untuk melindungi pelbagai jenis imej, termasuk foto peribadi, imej berita dan bukti jenayah.

Penyelidik MIT sedang berusaha untuk menyediakan PhotoGuard kepada orang ramai. Butiran mengenai pelancaran awam dan lesen penggunaan belum didedahkan. 

Lihat lagi:

Kuasa kecerdasan buatan di persimpangan antara ChatGPT dan deepfakes

Ia hanya OpenAI pelancaran pada November 2022 yang ChatGPT, versi 3,5 adalah perbualan dan boleh diakses oleh semua orang — bukan hanya syarikat, seperti versi sebelumnya GPT (Generative Pre-trained Transformer) — supaya pakar dalam komunikasi, matematik, pengkomputeran, logik, linguistik, maklumat teknologi dsb. mula bimbang tentang kemudaratan kecerdasan buatan (AI).

Dana Inovasi NATO melabur dalam penyelidikan teknologi

Dana Inovasi NATO (NIF) muncul sebagai inisiatif yang bertujuan untuk mengukuhkan ekosistem inovasi Perikatan dengan menyokong bakat dan penyelidikan dalam Sains, Teknologi, Kejuruteraanaria dan Matematik (STEM).