Meta מזהיר מפני תוכנות זדוניות המתחזות לבינה מלאכותית

באפריל, מנתחי האבטחה של ענקית המדיה החברתית מצאו תוכנה זדונית שמתחזה ChatGPT או כלי AI דומים, אמר לכתבים מנהל אבטחת המידע של Meta, גיא רוזן.

הוא נזכר ששחקנים זדוניים (האקרים, שולחי דואר זבל, בין היתר) תמיד מחפשים אחר הטרנדים האחרונים ש"תוכדים את דמיונם" של הציבור, כגון ChatGPT. הממשק הזה OpenAI, המאפשר דיאלוג קולח עם בני אדם ליצור קוד וטקסטים כגון הודעות דואר אלקטרוני ותזהות, יצר התלהבות רבה.

רוזן אמר כי Meta זיהתה הרחבות מזויפות לדפדפן אינטרנט שמתיימרות להכיל כלי AI מחוללים, אך למעשה מכילות תוכנה זדונית שנועדה להדביק מכשירים,

זה נפוץ ששחקנים גרועים ללכוד את העניין של משתמשי אינטרנט עם התפתחויות מושכות עין, להונות אנשים ללחוץ על קישורים ממולכדים או להוריד תוכניות לגניבת נתונים.

"ראינו את זה בנושאים פופולריים אחרים, כמו הונאה המונעת מהעניין העצום במטבעות דיגיטליים", אמר רוזן. "מנקודת מבטו של שחקן זדוני, ה ChatGPT זה המטבע הקריפטו החדש", ציין.

אלף אתרים חסומים

Meta זיהתה וחסמה יותר מאלף אתרים שמקדמים את עצמם ככלים דומים ל ChatGPT, אלא שהן למעשה מלכודות שנוצרו על ידי האקרים, לפי צוות האבטחה של חברת הטכנולוגיה.

ענקית הטכנולוגיה עדיין לא ראתה בינה מלאכותית גנראטיבית בשימוש יותר מאשר פיתוי על ידי האקרים, אבל היא מתכוננת לשימוש בו כנשק, דבר שהיא רואה כבלתי נמנע, אמר רוזן.

"בינה מלאכותית גנרית מאוד מבטיחה ושחקנים גרועים יודעים זאת, וזו הסיבה שכולנו צריכים להיות ערניים מאוד", אמר.

במקביל, צוותי Meta בוחנים דרכים להשתמש בבינה מלאכותית גנרטיבית כדי להתגונן מפני האקרים וקמפיינים מקוונים המטעים שלהם.

"יש לנו צוותים שכבר חושבים כיצד ניתן לנצל לרעה (בינה מלאכותית גנרית) וההגנות שעלינו להקים כדי לנטרל את זה", אמר ראש מחלקת מדיניות הביטחון של Meta, נתנאל גלייכר, במהלך אותו תדרוך.

"אנחנו מתכוננים לזה", הבטיח גלייכר.