פסגת בטיחות בינה מלאכותית 2024: התחייבויות, רשתות והדרכה לעתיד הטכנולוגיה

לאחר שאורגן במשותף על ידי בריטניה ודרום קוריאה, ה פסגת אבטחת בינה מלאכותית השנייה זה נמשך יומיים, והסתיים ביום רביעי הקרוב (22). עם אג'נדות המתמקדות בהכלה, גיוון, חדשנות ושימוש בטוח ב inteligência מלאכותי (IA), האירוע קבע קווים מנחים חדשים לחלק מהדיונים שלו על סדר היום.

ביום רביעי הזה, על רקע דיונים שהתמקדו בבטיחות במקום העבודה, זכויות יוצרים ושוויון טכנולוגי, חתמו 16 חברות טכנולוגיה על הסכם התחייבות לפיתוח בינה מלאכותית אחראית.

החברות המובילות ב ארצות הבריתכמו Google, meta, Microsoft e OpenAI, יחד עם חברות מה סין, דרום קוריאה e איחוד האמירויות הערביות, היו מעורבים ביוזמה זו.

הם נתמכו בהכרזה מקיפה ממדינות ה-G7 העיקריות, ה- האיחוד האירופי, מסינגפור, אוסטרליה ודרום קוריאה בפגישה וירטואלית בראשות ראש ממשלת בריטניה רישי סונק ונשיא דרום קוריאה יון סוק יאול.

משרד הנשיאות של דרום קוריאה הדגיש כי האומות הסכימו לתת עדיפות לבטיחות בינה מלאכותית, חדשנות והכלה.

"עלינו להבטיח את בטיחות הבינה המלאכותית כדי להגן על הרווחה והדמוקרטיה של החברה שלנו", אמר יון, והדגיש את החששות לגבי סיכונים כמו זיוף עמוק.

המשתתפים הדגישו את החשיבות של יכולת פעולה הדדית בין מבני ממשל, תוכניות לרשת של מכוני אבטחה ומעורבות עם גופים בינלאומיים כדי להתבסס על ההסכם בפגישה ראשונה כדי לטפל טוב יותר בסיכונים.

גם לחברות ישpromeבעיות אבטחה, כולל Zhipu.ai ו-Zhipu.ai הנתמכת על ידי עליבאבא Tencent של סין, Meituan ו-Xiaomi, כמו גם המכון לחדשנות טכנולוגית של איחוד האמירויות הערביות, אמזון בעברית, יבמ e Samsung מכשירי חשמל.

הם עםpromeהם היו צריכים לפרסם מסגרות אבטחה כדי למדוד סיכונים, להימנע ממודלים שבהם לא ניתן להפחית מספיק סיכונים ולהבטיח ממשל ושקיפות.

"זה חיוני להשיג הסכמה בינלאומית על 'הקווים האדומים' שבהם הופך פיתוח בינה מלאכותיתaria מסוכן באופן בלתי מקובל לביטחון הציבור", אמרה בת' בארנס, מייסדת METR, קבוצה המקדמת את הבטיחות של דגמי AI, בתגובה להצהרה.

מדען המחשבים יושע בנג'יו, המכונה "הסנדק של הבינה המלאכותית", בירך על ההתחייבויות אך ציין כי התחייבויות וולונטריות יצטרכו להיות מלווה ברגולציה.

כמו כן ביום רביעי, נחתם התחייבות נפרדת על ידי 14 חברות, כולל אלפבית Google, Microsoft, OpenAI ושש חברות דרום קוריאניות, להשתמש בשיטות כגון סימון מים כדי לסייע בזיהוי תוכן שנוצר בינה מלאכותית, כמו גם להבטיח יצירת מקומות עבודה וסיוע לקבוצות פגיעות חברתית.

"שיתוף פעולה הוא לא אופציה, זה הכרחי", אמר לי ג'ונג-הו, שר המדע וטכנולוגיית המידע והתקשורת של דרום קוריאה, בראיון לרויטרס.

"פסגת סיאול עיצבה עוד יותר את הדיונים על בטיחות בינה מלאכותית והוסיפה דיונים על חדשנות והכלה", הוסיף לי ואמר כי הוא מקווה שהדיונים בפסגה הבאה יכללו יותר שיתוף פעולה בין מכוני בטיחות בינה מלאכותית.

מחויבות בינלאומית

עשר מדינות והאיחוד האירופי יפתחו עוד מכוני אבטחה של בינה מלאכותית כדי ליישר מחקר לתקני למידת מכונה ובדיקות.

הרשת הבינלאומית סוכמה במהלך פסגת האבטחה של AI בסיאול, דרום קוריאה, שבמהלכה נפגשו מנהיגי העולם באופן וירטואלי.

זה יפגיש מדענים ממוסדות הנתמכים על ידי הציבור, כמו המכון הבריטי לבטיחות בינה מלאכותית, כדי לשתף מידע על הסיכונים, היכולות והמגבלות של מודלים של AI. קבוצת המוסדות תפקח גם על "אירועי בטיחות בינה מלאכותית" עם התרחשותם.

"AI היא טכנולוגיה מרגשת מאוד... אבל כדי לממש את היתרונות, עלינו להבטיח שהיא בטוחה", אמרה ראש ממשלת בריטניה רישי סונק בהודעה לעיתונות.

"לכן אני שמח שהגענו היום להסכמה לרשת של מכוני בטיחות בינה מלאכותית."

החתומים על רשת חדשה זו של מכוני בטיחות בינה מלאכותית כוללים את האיחוד האירופי, צרפת, גרמניה, איטליה, בריטניה, ארצות הברית, סינגפור, יפן, דרום קוריאה, אוסטרליה וקנדה.

בריטניה טוענת שיצרה את המכון הראשון בעולם לבטיחות בינה מלאכותית בנובמבר האחרון, עם השקעה ראשונית של 100 מיליון ליש"ט (117,4 מיליון אירו).

מאז, מדינות אחרות כמו ארצות הברית, יפן וסינגפור השיקו מדינות משלהן.

המשימה של מכון בטיחות הבינה המלאכותית הבריטית היא "למזער הפתעות לבריטניה ולאנושות מהתקדמות מהירה ובלתי צפויה בתחום הבינה המלאכותית", נכתב בהודעה לעיתונות של ממשלת בריטניה מנובמבר 2023.

האיחוד האירופי, לאחר שאישר כעת את 'חוק AI של האיחוד האירופי', מתכוננת להשיק את משרד הבינה המלאכותית שלה. הנציבות האירופית אמרה בעבר בראיון כי היא תעסיק את ראש המשרד החדש לאחר שהחוק יאושר במלואו.

אורסולה פון דר ליין, נשיאת הנציבות האירופית, אמרה בפסגת אבטחת הבינה המלאכותית בשנה שעברה שלמשרד הבינה המלאכותית יהיה וצריך להיות "ייעוד עולמי" כדי שיוכל "לשתף פעולה עם גורמים דומים ברחבי העולם".

מנהיגים חתמו גם על הצהרת סיאול הרחבה יותר במהלך ועידה זו, המצהיר על החשיבות של "שיתוף פעולה בינלאומי משופר" לפיתוח AI מהימן, הממוקד באדם.

קראו גם: