Efter att ha samarrangerats av Storbritannien och Sydkorea, Andra AI Security Summit Den varade i två dagar och slutade i onsdags (22). Med agendor fokuserade på inkludering, mångfald, innovation och säker användning av inteligência artificiell (IA), evenemanget fastställde nya riktlinjer för några av dess diskussioner på dagordningen.
REKLAM
I onsdags, mitt i diskussioner fokuserade på arbetsplatssäkerhet, upphovsrätt och teknisk jämlikhet, undertecknade 16 teknikföretag ett åtagandeavtal för ansvarsfull AI-utveckling.
De ledande företagen inom USASom Google, meta, Microsoft e OpenAI, tillsammans med företag från Kina, Sydkorea e Förenade Arabemiraten, var involverade i detta initiativ.
De fick stöd av en omfattande deklaration från de viktigaste G7-länderna Europeiska unionen, från Singapore, Australien och Sydkorea i ett virtuellt möte som leds av Storbritanniens premiärminister Rishi Sunak och Sydkoreas president Yoon Suk Yeol.
REKLAM
Sydkoreas presidentkontor betonade att nationerna enades om att prioritera AI-säkerhet, innovation och inkludering.
"Vi måste säkerställa säkerheten för AI för att skydda välbefinnandet och demokratin i vårt samhälle," sa Yoon och lyfte fram oro för risker som deepfake.
Deltagarna betonade vikten av interoperabilitet mellan styrningsstrukturer, planer för ett nätverk av säkerhetsinstitut och engagemang med internationella organ för att bygga vidare på avtalet i ett första möte för att bättre hantera risker.
REKLAM
Det har företag ocksåpromesäkerhetsfrågor, inklusive Alibaba-stödda Zhipu.ai och Tencent Kina, Meituan och Xiaomi, samt UAE Institute of Technology Innovation, amason, IBM e Samsung Elektronik.
De är medpromeDe var tvungna att publicera säkerhetsramverk för att mäta risker, undvika modeller där risker inte kunde mildras tillräckligt och säkerställa styrning och transparens.
"Det är viktigt att få internationell överenskommelse om de "röda linjerna" där AI-utvecklingen bliraria oacceptabelt farligt för allmänhetens säkerhet, säger Beth Barnes, grundare av METR, en grupp som främjar säkerheten för AI-modeller, som svar på uttalandet.
REKLAM
Datavetaren Yoshua Bengio, känd som "gudfadern till AI", välkomnade åtagandena men noterade att frivilliga åtaganden måste åtföljas av reglering.
Också på onsdagen undertecknades ett separat löfte av 14 företag, inklusive Alphabets Google, Microsoft, OpenAI och sex sydkoreanska företag, för att använda metoder som vattenmärkning för att hjälpa till att identifiera AI-genererat innehåll, samt säkerställa jobbskapande och stöd till socialt utsatta grupper.
"Samarbete är inte ett alternativ, det är en nödvändighet", sa Lee Jong-Ho, Sydkoreas minister för vetenskap och informations- och kommunikationsteknik, i en intervju med Reuters.
REKLAM
"Toppmötet i Seoul formade ytterligare diskussioner om AI-säkerhet och lade till debatter om innovation och inkludering," tillade Lee och sa att han hoppas att diskussionerna vid nästa toppmöte kommer att omfatta mer samarbete mellan AI-säkerhetsinstitut.
Internationellt engagemang
Tio länder och EU kommer att utveckla fler säkerhetsinstitut för artificiell intelligens för att anpassa forskningen till maskininlärningsstandarder och testning.
Det internationella nätverket kom överens om under AI Security Summit i Seoul, Sydkorea, under vilket världsledare träffades virtuellt.
Det kommer att sammanföra forskare från offentligt stödda institutioner, såsom Storbritanniens Institute for AI Safety, för att dela information om risker, möjligheter och begränsningar hos AI-modeller. Gruppen av institutioner kommer också att övervaka "specifika AI-säkerhetsincidenter" när de inträffar.
"AI är en oerhört spännande teknik... men för att inse fördelarna måste vi se till att den är säker", sa Storbritanniens premiärminister Rishi Sunak i ett pressmeddelande.
"Det är därför jag är glad över att vi har nått en överenskommelse idag om ett nätverk av AI-säkerhetsinstitut."
Undertecknarna av detta nya nätverk av AI-säkerhetsinstitut inkluderar EU, Frankrike, Tyskland, Italien, Storbritannien, USA, Singapore, Japan, Sydkorea, Australien och Kanada.
Storbritannien säger sig ha skapat världens första AI Safety Institute i november förra året, med en initial investering på 100 miljoner pund (117,4 miljoner euro).
Sedan dess har andra länder som USA, Japan och Singapore lanserat sina egna.
Det brittiska AI Safety Institutes uppdrag är att "minimera överraskningar för Storbritannien och mänskligheten från snabba och oväntade framsteg inom AI", säger ett pressmeddelande från den brittiska regeringen från november 2023.
EU har nu godkänt "EU:s AI-lag', förbereder lanseringen av sitt AI-kontor. EU-kommissionen sa tidigare i en intervju att den kommer att anställa chefen för det nya kontoret när lagen är helt godkänd.
Ursula von der Leyen, ordförande för Europeiska kommissionen, sa vid förra årets AI Security Summit att AI-kontoret skulle och borde ha ett "globalt kall" så att det kunde "samarbeta med liknande enheter runt om i världen."
Ledare undertecknade också den bredare Seoul-deklarationen under denna konferens, som förklarar vikten av "förstärkt internationellt samarbete" för att utveckla pålitlig, människocentrerad AI.
Läs också:
