Meta ha approvato annunci politici in India contenenti incitamento all'odio e disinformazione, incitando alla violenza contro i musulmani. Immagini manipolate da intelligenza artificiale (AI) è passato inosservato ai sistemi dell'azienda, violandone le stesse politiche.
PUBBLICITÀ
A Meta hanno tratto profitto da annunci che violavano le leggi elettorali e diffondevano discorsi di odio, anche dopo promess per contrastare la disinformazione.
L'azienda non è riuscita a proteggere i propri utenti e il democrazia Indiano, chiedendo misure immediate per evitare che ciò accada di nuovo.
Dettagli del metaerrore
- Meta ha consentito la pubblicazione di annunci che diffamavano i musulmani, chiedendo la loro esecuzione e diffondendo disinformazione sui leader politici.
- Gli annunci sono stati inviati da India Civil Watch International (ICWI) ed Ekō per testare i meccanismi di Meta contro contenuti dannosi.
- Nonostante Meta non sia riuscita a rilevare che gli annunci utilizzavano immagini manipolate dall'intelligenza artificiale promedobbiamo combatterli.
- Cinque annunci sono stati rifiutati perché violavano le politiche di Meta, ma 14 sono stati approvati nonostante violassero le stesse regole.
- Meta non è riuscito a riconoscere che gli annunci erano politici, consentendo loro di violare le leggi elettorali indiane.
- L'azienda ha tratto profitto da questi annunci, anche se incitavano alla violenza e violavano le leggi.
- Meta è stata precedentemente criticata per non aver combattuto l’incitamento all’odio islamofobico sulle sue piattaforme in India.
- Nick Clegg, presidente degli affari globali di Meta, ha ammesso che la società non è riuscita ad affrontare la disinformazione nelle elezioni indiane.
L’azienda deve prendere provvedimenti immediati
- Migliora i tuoi meccanismi di rilevamento di contenuti dannosi, comprese le immagini manipolate dall'intelligenza artificiale.
- Attuare politiche più severe contro l’incitamento all’odio e la disinformazione, soprattutto in contesti politici.
- Cooperare con le autorità e le organizzazioni della società civile per combattere la proliferazione di contenuti dannosi sulle loro piattaforme.
- Sii più trasparente riguardo alle tue azioni e assumiti la responsabilità dei tuoi errori.
Azioni consigliate
- Gli utenti Meta dovrebbero segnalare qualsiasi contenuto dannoso che incontrano sulle piattaforme dell'azienda.
- Le organizzazioni e gli attivisti della società civile dovrebbero fare pressione su Meta affinché intraprenda azioni più forti contro l’incitamento all’odio e la disinformazione.
- I governi dovrebbero prendere in considerazione la regolamentazione delle società di social media per garantire che proteggano i propri utenti e la democrazia.
Leggi anche: