Etiquetatge d'imatges d'IA: Meta pren la iniciativa per combatre la desinformació a Instagram i Facebook

Imatges fotorimatges creades amb l'eina d'imatge intel·ligència artificial de Meta ja estan etiquetats com a IA, però el president d'afers globals de la companyia, Nick Clegg, va anunciar en un bloc el dimarts (6) que meta treballaria per començar a etiquetar imatges generades per IA desenvolupades en serveis rivals.

Meta pressiona per etiquetar totes les imatges d'IA a Instagram i Facebook per reprimir el contingut enganyós https://t.co/Xmg2I69MMO

— Guardian Tech (@guardiantech) Febrer 6, 2024

Les imatges d'IA de Meta ja contenen metadades i marques d'aigua invisibles que poden informar a altres organitzacions que la imatge estava impulsada per IA, i l'empresa està desenvolupant eines per identificar aquest tipus de marcadors quan els fan servir altres empreses, com ara Google, OpenAI, Microsoft, Adobe, Midjourney e Shutterstock als vostres generadors d'imatges d'IA, va dir Clegg..

"A mesura que la diferència entre el contingut humà i sintètic es va desdibuixant, la gent vol saber on és la línia", va dir Clegg. "La gent sovint es troba per primera vegada amb contingut generat per IA i els nostres usuaris ens han dit que agraeixen la transparència al voltant d'aquesta nova tecnologia. Per tant, és important que ajudem la gent a saber quan contingut fotorLa visió realista que esteu veient es va crear amb IA", va afegir.

El president d'assumptes globals de Meta va afirmar que s'està construint capacitat i que s'aplicaran etiquetes en tots els idiomes durant els propers mesos.

Les imatges falses de Taylor Swift motiven la factura als EUA

Un grup bipartidista de senadors dels Estats Units va presentar dimarts (30) un projecte de llei que criminalitza la difusió d'imatges sexualitzades, generades per intel·ligència artificial (IA), sense consentiment.

Identificació limitada a imatges generades per IA

Clegg va assenyalar que l'etiquetatge es limitava a les imatges i que les eines d'IA que generen àudio i vídeo actualment no inclouen aquestes etiquetes, però la companyia permetria que la gent divulgui i afegeixi etiquetes a aquest contingut quan es publiqui en línia.

Va dir que Meta també va col·locararia una etiqueta més destacada en imatges, vídeos o àudio "creats o alterats digitalment" que "creen un risc especialment elevat d'enganyar materialment el públic sobre una qüestió important".

La companyia també buscava desenvolupar tecnologia per detectar automàticament el contingut generat per IA, fins i tot si el contingut no té marcadors invisibles o on aquests marcadors s'han eliminat.

"Aquest treball és especialment important perquè és probable que es converteixi en un espai cada cop més conflictiu en els propers anys", va dir Clegg.

"Les persones i organitzacions que vulguin enganyar els altres de manera activa amb contingut generat per IA buscaran maneres d'evitar les garanties establertes per detectar-ho. A la nostra indústria i a la societat en general, haurem de continuar buscant maneres de mantenir-nos un pas per davant".

Llegiu també:

Els delinqüents utilitzen deepfake per enganyar multinacionals i cometre una estafa de 127 milions de R$

Un recent atac financer amb intel·ligència artificial (IA) va deixar una coneguda empresa multinacional amb una pèrdua d'uns 127 milions de R$, segons informa el South China Morning Post i esmenta Folha de S. Paulo.

Busques una eina d'Intel·ligència Artificial que et faci la vida més fàcil? En aquesta guia, navegueu per un catàleg de robots impulsats per IA i apreneu sobre les seves funcionalitats. Consulteu la valoració que els va fer el nostre equip de periodistes!