Arauek hainbat teknologia hartzen dituzte, besteak beste, webguneak, hodeiko biltegiratze zerbitzuak, testu mezularitza eta txat aplikazioak. i ere estaltzen duteadimen artifiziala (AI) eragin handiko sorkuntzazko eta kode irekiko ikaskuntza automatikoko ereduak.
PUBLIZITATEA
WeProtect Global Alliance-k, irabazi-asmorik gabeko partzuergoak 100 gobernu eta 70 enpresa baino gehiagok online haurren sexu-esplotazioa eta abusua helburu dituena, arazoaren izaera nabarmendu zuen. Esan zuen kode irekiko IA dagoeneko erabiltzen ari direla haurren tratu txarren materiala eta deepfakeak ekoizteko, eta proposatutako estandarrek plataforma eta zerbitzu egokiak jasotzen dituzte.
"Okerreko erabileraren aukeran zentratuz, atalaseak errealitatea islatzen du: ikaskuntza automatikoko eta adimen artifizialaren ereduak ere datu sentikorretarako esposizio zuzena mugatua duten edo legez kanpoko datuak dituzten datu-multzoekin oraindik gaizki erabili daitezkeela legez kanpoko edukia sortzeko, hala nola haurren sexu "sintetikoa" gisa. abusu materiala eta deepfake sexualak».
Baina teknologia enpresak, barne Microsoft, Meta e Egonkortasuna AI, esan zuen haien teknologiak bermeekin garatzen ari direla, horrela erabiltzea saihesteko.
PUBLIZITATEA
A Microsoft ohartarazi du arauek, idatzitako moduan, haurren tratu txarrak edo terrorismoaren aldeko materiala detektatzeko eta markatzeko erabiltzen diren AI segurtasun ereduen eraginkortasuna mugatu dezaketela.
"AI ereduak eta segurtasun-sistemak (esaterako, sailkatzaileak) eduki hori detektatzeko eta markatzeko entrenatu daitezkeela ziurtatzeko, beharrezkoa da AI-a eduki hori jasan behar izatea eta arriskuak neurtzeko eta arintzeko ebaluazio-prozesuak ezartzea". , Esan nuen Microsoft.
"Erabat "garbi" diren prestakuntza-datuek tresna horien eraginkortasuna murriztu dezakete eta zehaztasun eta fintasunarekin funtzionatzeko probabilitatea murrizten dute.
PUBLIZITATEA
"Edukiak moderatzeko AI tresnaren elementurik itxaropentsuenetako bat testuingurua ebaluatzeko gaitasun aurreratua da; ebaluazio ñabardura hori onartzen duten trebakuntza-daturik gabe, berrikuntza horren onurak galtzeko arriskua dugu".
Egonkortasuna AIk ere ohartarazi zuen IAk paper handia izango zuela sareko moderazioan, eta definizio zabalegiek proposatutako estandarrak betetzeko zer detektatu behar den zehaztea zaila izan liteke.
Facebook-en enpresa nagusiak, Meta, esan zuen bere eredua bitartean sugarra 2 segurtasun-tresnak eta erabilera arduratsua duten gidak edukitzea, zaila izango litzateke tresna deskargatzen denean bermeak ezartzea.
PUBLIZITATEA
"Ezin dugu Llama 2-ren hornidura etetea deskargatu ondoren edo kontu bat amaitu ondoren, edo deskargatu diren txantiloien edukia disuaditzea, etetea, detektatu, salatzea edo kentzea", esan du konpainiak.
O Google AI estandarretan ez sartzea gomendatu du eta, horren ordez, gobernuak lineako Segurtasun Legearen eta Lineako Segurtasunerako Oinarrizko Itxaropenen egungo berrikuspenaren parte gisa guztiz kontuan hartzea gomendatu du.
Teknologia-enpresek ere eginiko iruzkinen oihartzuna hartu zuten Apple azken astean estandarrek esplizituki adierazi behar dute hodeiko zerbitzuak eta mezuak eskaneatzeko proposamenek "teknikoki bideragarria denean" ez dutelapromeenkriptatzea izango du, eta bideragarritasun teknikoak enpresa batek teknologia hori garatzeko duen kostua baino gehiago hartuko du barne.
PUBLIZITATEA
Adierazpen batean, Julie Inman Grant eSafety komisarioak esan zuen estandarrek ez zutela eskatuko industriak enkriptatzea apurtzea edo ahultzea, testua kontrolatzea edo datu pertsonal kopuru handiak bereizi gabe eskaneatzea, eta komisarioa puntu hori argitzeko balizko zuzenketak aztertzen ari zen orain.
“Funtsean, eSegurançak ez du uste industriak bere plataformetan libreki ostatatutako eta partekatzeko legez kanpoko edukiei aurre egiteko erantzukizunetik salbuetsi behar duenik. eSegurançak ohartarazi du end-to-end enkriptatutako mezularitza-zerbitzu handi batzuk dagoeneko neurriak hartzen ari direla eduki kaltegarri hori detektatzeko ", esan zuen.
Arauen behin betiko bertsioak parlamentuari aurkeztuko zaizkio urte honetan bertan azter ditzan, esan du Inman Grantek.
Irakurri ere:
