Metagodkjente politiske annonser i India som inneholder hatytringer og feilinformasjon, oppfordrer til vold mot muslimer. Bilder manipulert av inteligência kunstig (AI) gikk ubemerket av selskapets systemer, og brøt med sine egne retningslinjer.
REKLAME
A Meta tjent på annonser som brøt valglovene og spredte hatytringer, selv etter promess for å bekjempe desinformasjon.
Selskapet klarte ikke å beskytte sine brukere og demokrati indisk, krever umiddelbare tiltak for å forhindre at dette skjer igjen.
Kina vil bruke kunstig intelligens for å forstyrre valg i USA, Sør-Korea og India, advarer Microsoft
Metafeildetaljer
- Meta tillot publisering av annonser som baktalte muslimer, ba om henrettelse og spre desinformasjon om politiske ledere.
- Kunngjøringene ble sendt av India Civil Watch International (ICWI) og Ekō for å teste Metas mekanismer mot skadelig innhold.
- Meta klarte ikke å oppdage at annonsene brukte AI-manipulerte bilder, til tross promemå kjempe mot dem.
- Fem annonser ble avvist for brudd på Metas retningslinjer, men 14 ble godkjent til tross for brudd på de samme reglene.
- Meta klarte ikke å erkjenne at annonsene var politiske, noe som tillot dem å bryte indiske valglover.
- Selskapet tjente på disse annonsene, selv om de oppfordret til vold og brøt lover.
- Meta har tidligere blitt kritisert for å ha unnlatt å bekjempe islamofobiske hatytringer på sine plattformer i India.
- Nick Clegg, president for globale anliggender i Meta, innrømmet at selskapet ikke klarte å adressere feilinformasjon i det indiske valget.
Selskapet må iverksette tiltak umiddelbart
- Forbedre deteksjonsmekanismene dine for skadelig innhold, inkludert AI-manipulerte bilder.
- Implementere strengere retningslinjer mot hatytringer og desinformasjon, spesielt i politiske sammenhenger.
- Samarbeide med myndigheter og sivilsamfunnsorganisasjoner for å bekjempe spredning av skadelig innhold på deres plattformer.
- Vær mer åpen om handlingene dine og ta ansvar for dine feil.
Anbefalte handlinger
- Metabrukere bør rapportere alt skadelig innhold de møter på selskapets plattformer.
- Sivilsamfunnsorganisasjoner og aktivister bør presse Meta til å ta sterkere grep mot hatefulle ytringer og desinformasjon.
- Myndigheter bør vurdere å regulere sosiale medieselskaper for å sikre at de beskytter brukerne og demokratiet.
Les også: