A Meta aprovou anúncios políticos na Índia contendo discurso de ódio e desinformação, incitando violência contra muçulmanos. Imagens manipuladas por inteligência artificial (IA) passaram despercebidas pelos sistemas da empresa, violando suas próprias políticas.
PUBLICIDADE
A Meta lucrou com anúncios que violavam leis eleitorais e disseminavam discurso de ódio, mesmo após promessa de combate à desinformação.
A empresa falhou em proteger seus usuários e a democracia indiana, exigindo medidas imediatas para evitar que isso se repita.
Detalhes da falha da Meta
- A Meta permitiu a publicação de anúncios com calúnias contra muçulmanos, pedindo sua execução e espalhando desinformação sobre líderes políticos.
- Os anúncios foram enviados pela India Civil Watch International (ICWI) e Ekō para testar os mecanismos da Meta contra conteúdo prejudicial.
- A Meta falhou em detectar que os anúncios usavam imagens manipuladas por IA, apesar de prometer combatê-las.
- Cinco anúncios foram rejeitados por violar as políticas da Meta, mas 14 foram aprovados, mesmo violando as mesmas regras.
- A Meta não reconheceu que os anúncios eram políticos, permitindo que violassem as leis eleitorais indianas.
- A empresa lucrou com esses anúncios, mesmo que incitassem violência e violassem leis.
- A Meta já foi criticada por não combater o discurso de ódio islamofóbico em suas plataformas na Índia.
- Nick Clegg, presidente de assuntos globais da Meta, admitiu que a empresa falhou em lidar com a desinformação nas eleições indianas.
A empresa precisa tomar medidas imediatas
- Melhorar seus mecanismos de detecção de conteúdo prejudicial, incluindo imagens manipuladas por IA.
- Implementar políticas mais rigorosas contra discurso de ódio e desinformação, especialmente em contextos políticos.
- Cooperar com autoridades e organizações da sociedade civil para combater a proliferação de conteúdo prejudicial em suas plataformas.
- Ser mais transparente sobre suas ações e responsabilizar-se por seus erros.
Ações recomendadas
- Usuários da Meta devem denunciar qualquer conteúdo prejudicial que encontrarem nas plataformas da empresa.
- Organizações da sociedade civil e ativistas devem pressionar a Meta a tomar medidas mais fortes contra o discurso de ódio e a desinformação.
- Governos devem considerar regulamentar as empresas de mídia social para garantir que elas protejam seus usuários e a democracia.
Leia também:
