Meta aprovou anúncios políticos incitando violência na Índia; entenda

A Meta aprovou anúncios políticos na Índia contendo discurso de ódio e desinformação, incitando violência contra muçulmanos. Imagens manipuladas por inteligência artificial (IA) passaram despercebidas pelos sistemas da empresa, violando suas próprias políticas.

A Meta lucrou com anúncios que violavam leis eleitorais e disseminavam discurso de ódio, mesmo após promessa de combate à desinformação.

A empresa falhou em proteger seus usuários e a democracia indiana, exigindo medidas imediatas para evitar que isso se repita.

Detalhes da falha da Meta

• A Meta permitiu a publicação de anúncios com calúnias contra muçulmanos, pedindo sua execução e espalhando desinformação sobre líderes políticos.
• Os anúncios foram enviados pela India Civil Watch International (ICWI) e Ekō para testar os mecanismos da Meta contra conteúdo prejudicial.
• A Meta falhou em detectar que os anúncios usavam imagens manipuladas por IA, apesar de prometer combatê-las.
• Cinco anúncios foram rejeitados por violar as políticas da Meta, mas 14 foram aprovados, mesmo violando as mesmas regras.
• A Meta não reconheceu que os anúncios eram políticos, permitindo que violassem as leis eleitorais indianas.
• A empresa lucrou com esses anúncios, mesmo que incitassem violência e violassem leis.
• A Meta já foi criticada por não combater o discurso de ódio islamofóbico em suas plataformas na Índia.
• Nick Clegg, presidente de assuntos globais da Meta, admitiu que a empresa falhou em lidar com a desinformação nas eleições indianas.

A empresa precisa tomar medidas imediatas

• Melhorar seus mecanismos de detecção de conteúdo prejudicial, incluindo imagens manipuladas por IA.
• Implementar políticas mais rigorosas contra discurso de ódio e desinformação, especialmente em contextos políticos.
• Cooperar com autoridades e organizações da sociedade civil para combater a proliferação de conteúdo prejudicial em suas plataformas.
• Ser mais transparente sobre suas ações e responsabilizar-se por seus erros.

Ações recomendadas

• Usuários da Meta devem denunciar qualquer conteúdo prejudicial que encontrarem nas plataformas da empresa.
• Organizações da sociedade civil e ativistas devem pressionar a Meta a tomar medidas mais fortes contra o discurso de ódio e a desinformação.
• Governos devem considerar regulamentar as empresas de mídia social para garantir que elas protejam seus usuários e a democracia.

Leia também: