Meta schválila v Indii politické reklamy obsahující nenávistné projevy a dezinformace, podněcující k násilí proti muslimům. Obrázky manipulované uživatelem inteligência umělé (AI) si systémy společnosti nevšimly a porušily své vlastní zásady.
PUBLICITA
A meta profitovali z reklam, které porušovaly volební zákony a šířily nenávistné projevy, a to i poté promess pro boj s dezinformacemi.
Společnost nedokázala ochránit své uživatele a demokracie Indiana, vyžadující okamžitá opatření aby se to neopakovalo.
Podrobnosti o selhání meta
- Meta povolila zveřejňování inzerátů pomlouvajících muslimy, vyzývajících k jejich popravě a šíření dezinformací o politických vůdcích.
- Oznámení zaslaly India Civil Watch International (ICWI) a Ekō, aby otestovaly mechanismy Meta proti škodlivému obsahu.
- Meta přesto nezjistila, že reklamy používají obrázky manipulované umělou inteligencí promemuset s nimi bojovat.
- Pět reklam bylo zamítnuto kvůli porušení zásad Meta, ale 14 bylo schváleno, přestože porušovaly stejná pravidla.
- Meta nedokázala rozpoznat, že reklamy byly politické, což jim umožnilo porušovat indické volební zákony.
- Společnost z těchto reklam profitovala, přestože podněcovaly k násilí a porušovaly zákony.
- Meta byla již dříve kritizována za to, že na svých platformách v Indii nepotírá islamofobní nenávistné projevy.
- Nick Clegg, prezident globálních záležitostí ve společnosti Meta, připustil, že společnost nedokázala řešit dezinformace v indických volbách.
Společnost musí okamžitě jednat
- Vylepšete své mechanismy detekce škodlivého obsahu, včetně obrázků manipulovaných umělou inteligencí.
- Implementujte přísnější zásady proti projevům nenávisti a dezinformacím, zejména v politickém kontextu.
- Spolupracujte s úřady a organizacemi občanské společnosti v boji proti šíření škodlivého obsahu na jejich platformách.
- Buďte transparentnější ve svém jednání a převezměte odpovědnost za své chyby.
Doporučené akce
- Uživatelé metadat by měli nahlásit jakýkoli škodlivý obsah, se kterým se setkají na platformách společnosti.
- Organizace a aktivisté občanské společnosti by měli tlačit na Meta, aby podnikla důraznější kroky proti projevům nenávisti a dezinformacím.
- Vlády by měly zvážit regulaci společností sociálních médií, aby zajistily, že budou chránit své uživatele a demokracii.
Čtěte také:
