AI Safety Summit 2024: Mga Pangako, Mga Network at Patnubay para sa Kinabukasan ng Teknolohiya

Ang pagkakaroon ng co-organized ng United Kingdom at South Korea, ang Pangalawang AI Security Summit Tumagal ito ng dalawang araw, na nagtatapos nitong Miyerkules (22). Sa mga agenda na nakatuon sa pagsasama, pagkakaiba-iba, pagbabago at ligtas na paggamit ng inteligência artipisyal (IA), ang kaganapan ay nagtatag ng mga bagong alituntunin para sa ilan sa mga talakayan nito sa agenda.

Nitong Miyerkules, sa gitna ng mga talakayan na nakatuon sa kaligtasan sa lugar ng trabaho, copyright at teknolohikal na pagkakapantay-pantay, nilagdaan ng 16 na kumpanya ng teknolohiya ang isang kasunduan sa pangako para sa responsableng pagpapaunlad ng AI.

Ang mga nangungunang kumpanya sa AmerikaBilang Google, meta, Microsoft e OpenAI, kasama ang mga kumpanya mula sa Tsina, South Korea e Emirados arabes Anunsyo United States, ay kasangkot sa inisyatiba na ito.

Sinuportahan sila ng isang komprehensibong deklarasyon mula sa mga pangunahing bansa ng G7, ang European Union, mula sa Singapore, Australya at South Korea sa isang virtual na pagpupulong na pinamumunuan ni British Prime Minister Rishi Sunak at South Korean President Yoon Suk Yeol.

Binigyang-diin ng tanggapan ng pampanguluhan ng South Korea na ang mga bansa ay sumang-ayon na unahin ang kaligtasan, pagbabago, at pagiging inclusivity ng AI.

"Dapat nating tiyakin ang kaligtasan ng AI upang maprotektahan ang kagalingan at demokrasya ng ating lipunan," sabi ni Yoon, na itinatampok ang mga alalahanin tungkol sa mga panganib tulad ng deepfake.

Binigyang-diin ng mga kalahok ang kahalagahan ng interoperability sa pagitan ng mga istruktura ng pamamahala, mga plano para sa isang network ng mga institusyong panseguridad at pakikipag-ugnayan sa mga internasyonal na katawan upang buuin ang kasunduan sa isang unang pulong upang mas mahusay na matugunan ang mga panganib.

Mayroon ding mga kumpanyapromemga isyu sa seguridad, kabilang ang Zhipu.ai na suportado ng Alibaba at Tencent ng China, Meituan at Xiaomi, pati na rin ang UAE Technology Innovation Institute, Birago, IBM e Samsung Electronics.

Kasama nilapromeKinailangan nilang mag-publish ng mga balangkas ng seguridad upang sukatin ang mga panganib, maiwasan ang mga modelo kung saan ang mga panganib ay hindi sapat na mababawasan, at tiyakin ang pamamahala at transparency.

"Mahalagang makakuha ng internasyonal na kasunduan sa 'mga pulang linya' kung saan nagiging AI developmentaria hindi katanggap-tanggap na mapanganib sa kaligtasan ng publiko," sabi ni Beth Barnes, tagapagtatag ng METR, isang grupo na nagtataguyod ng kaligtasan ng mga modelo ng AI, bilang tugon sa pahayag.

Ang computer scientist na si Yoshua Bengio, na kilala bilang "godfather of AI," ay tinanggap ang mga pangako ngunit binanggit na ang mga boluntaryong pangako ay kailangang samahan ng regulasyon.

Noong Miyerkules din, isang hiwalay na pangako ang nilagdaan ng 14 na kumpanya, kabilang ang Alphabet's Google, Microsoft, OpenAI at anim na kumpanya sa South Korea, na gumamit ng mga pamamaraan tulad ng watermarking upang tumulong na matukoy ang nilalamang binuo ng AI, pati na rin ang pagtiyak ng paglikha ng trabaho at tulong para sa mga grupong mahina sa lipunan.

"Ang pakikipagtulungan ay hindi isang opsyon, ito ay isang pangangailangan," sabi ni Lee Jong-Ho, Ministro ng Agham at Impormasyon at Komunikasyon ng Timog Korea, sa isang pakikipanayam sa Reuters.

"Ang summit ng Seoul ay higit pang bumuo ng mga talakayan sa kaligtasan ng AI at nagdagdag ng mga debate sa inobasyon at inclusivity," dagdag ni Lee, na nagsasabing umaasa siyang ang mga talakayan sa susunod na summit ay magsasama ng higit pang pakikipagtulungan sa mga AI safety institute.

Internasyonal na pangako

Sampung bansa at ang European Union ay bubuo ng mas maraming artificial intelligence security institute para iayon ang pananaliksik sa mga pamantayan at pagsubok sa machine learning.

Ang internasyonal na network ay napagkasunduan sa panahon ng AI ​​Security Summit sa Seoul, South Korea, kung saan halos nagpulong ang mga pinuno ng mundo.

Magsasama-sama ito ng mga siyentipiko mula sa mga institusyong sinusuportahan ng publiko, tulad ng Institute for AI Safety ng UK, upang magbahagi ng impormasyon tungkol sa mga panganib, kakayahan at limitasyon ng mga modelo ng AI. Susubaybayan din ng grupo ng mga institusyon ang "mga partikular na insidente sa kaligtasan ng AI" habang nangyayari ang mga ito.

"Ang AI ay isang napakalaking kapana-panabik na teknolohiya... ngunit upang mapagtanto ang mga benepisyo, dapat nating tiyakin na ito ay ligtas," sabi ng Punong Ministro ng UK na si Rishi Sunak sa isang press release.

"Iyon ang dahilan kung bakit ako ay nalulugod na naabot namin ang kasunduan ngayon para sa isang network ng AI Safety Institutes."

Kasama sa mga lumagda sa bagong network na ito ng AI Safety Institutes ang EU, France, Germany, Italy, United Kingdom, United States, Singapore, Japan, South Korea, Australia at Canada.

Sinasabi ng UK na nilikha ang unang AI Safety Institute sa buong mundo noong Nobyembre, na may paunang pamumuhunan na £100 milyon (€117,4 milyon).

Simula noon, ang ibang mga bansa tulad ng United States, Japan at Singapore ay naglunsad ng sarili nilang bansa.

Ang misyon ng UK AI Safety Institute ay "i-minimize ang mga sorpresa para sa UK at sangkatauhan mula sa mabilis at hindi inaasahang pag-unlad sa AI," sabi ng isang press release ng gobyerno ng UK noong Nobyembre 2023.

Ang EU, na naaprubahan na ngayon ang 'EU AI Act', ay naghahanda upang ilunsad ang opisina ng AI nito. Nauna nang sinabi ng European Commission sa isang panayam na kukuha ito ng pinuno ng bagong opisina kapag ganap na naaprubahan ang batas.

Sinabi ni Ursula von der Leyen, presidente ng European Commission, sa AI Security Summit noong nakaraang taon na ang opisina ng AI ay magkakaroon at dapat magkaroon ng "global na bokasyon" upang ito ay "makipagtulungan sa mga katulad na entity sa buong mundo."

Nilagdaan din ng mga pinuno ang mas malawak na Deklarasyon ng Seoul sa kumperensyang ito, na nagpapahayag ng kahalagahan ng "pinahusay na internasyonal na kooperasyon" upang bumuo ng mapagkakatiwalaan, nakasentro sa tao na AI.

Basahin din: