اپریل میں، سوشل میڈیا دیو کے سیکورٹی تجزیہ کاروں نے بدنیتی پر مبنی سافٹ ویئر کو ظاہر کیا۔ ChatGPT یا اسی طرح کے AI ٹولز، میٹا کے انفارمیشن سیکیورٹی کے ڈائریکٹر گائے روزن نے صحافیوں کو بتایا۔
ایڈورٹائزنگ
انہوں نے یاد دلایا کہ بدنیتی پر مبنی اداکار (ہیکرز، اسپامرز، دوسروں کے درمیان) ہمیشہ تازہ ترین رجحانات کی تلاش میں رہتے ہیں جو عوام کے "تخیل کو پکڑتے ہیں"، جیسے ChatGPT. یہ انٹرفیس OpenAI، جو انسانوں کے ساتھ کوڈ اور متن جیسے کہ ای میل پیغامات اور مقالے تیار کرنے کے لیے سیال مکالمے کی اجازت دیتا ہے، نے زبردست جوش پیدا کیا ہے۔
روزن نے کہا کہ میٹا نے جعلی ویب براؤزر ایکسٹینشنز کا پتہ لگایا ہے جو کہ جنریٹیو AI ٹولز پر مشتمل ہونے کا دعویٰ کرتے ہیں، لیکن حقیقت میں اس میں نقصان دہ سافٹ ویئر موجود ہے جو آلات کو متاثر کرنے کے لیے ڈیزائن کیا گیا ہے،
برے اداکاروں کے لیے یہ عام بات ہے کہ وہ انٹرنیٹ صارفین کی دلچسپی کو دلکش پیش رفت کے ساتھ حاصل کر لیں، لوگوں کو بوبی پھنسے ہوئے لنکس پر کلک کرنے یا ڈیٹا چوری کرنے والے پروگراموں کو ڈاؤن لوڈ کرنے کے لیے دھوکہ دیں۔
ایڈورٹائزنگ
روزن نے کہا کہ "ہم نے اسے دوسرے مشہور موضوعات میں دیکھا ہے، جیسے کہ ڈیجیٹل کرنسیوں میں بے پناہ دلچسپی سے چلنے والا فراڈ"۔ "ایک بدنیتی پر مبنی اداکار کے نقطہ نظر سے، ChatGPT یہ نئی کریپٹو کرنسی ہے"، اس نے اشارہ کیا۔
ایک ہزار بلاک شدہ ویب سائٹس
میٹا نے ایک ہزار سے زیادہ ویب سائٹس کا پتہ لگایا اور بلاک کیا ہے جو خود کو اسی طرح کے ٹولز کے طور پر فروغ دیتے ہیں۔ ChatGPTٹیکنالوجی کمپنی کی سیکیورٹی ٹیم کے مطابق، لیکن جو دراصل ہیکرز کے ذریعے بنائے گئے جال ہیں۔
روزن نے کہا کہ ٹیک دیو نے ابھی تک جنریٹو اے آئی کو ہیکرز کی طرف سے دھوکہ دہی کے علاوہ کسی اور چیز کے طور پر استعمال ہوتے دیکھا ہے، لیکن وہ اسے ایک ہتھیار کے طور پر استعمال کرنے کی تیاری کر رہا ہے، جو اسے ناگزیر سمجھتا ہے۔
ایڈورٹائزنگ
انہوں نے کہا، "جنریٹو اے آئی بہت امید افزا ہے اور برے اداکار یہ جانتے ہیں، اسی لیے ہم سب کو بہت چوکنا رہنا چاہیے۔"
اسی وقت، میٹا ٹیمیں ہیکرز اور ان کی فریب دینے والی آن لائن مہمات کے خلاف دفاع کے لیے جنریٹو AI استعمال کرنے کے طریقے تلاش کر رہی ہیں۔
"ہمارے پاس ٹیمیں ہیں جو پہلے سے ہی اس بارے میں سوچ رہی ہیں کہ کس طرح (جنریٹو اے آئی) کا غلط استعمال کیا جا سکتا ہے اور اس کا مقابلہ کرنے کے لیے ہمیں کیا دفاع کرنا چاہیے،" میٹا کے سیکیورٹی پالیسی کے سربراہ ناتھانیئل گلیشر نے اسی بریفنگ کے دوران کہا۔
ایڈورٹائزنگ
"ہم اس کے لیے تیاری کر رہے ہیں"، گلیچر نے یقین دلایا۔
