Meta aprobó anuncios políticos en India que contienen discursos de odio y desinformación, incitando a la violencia contra los musulmanes. Imágenes manipuladas por inteligencia artificial (AI) pasó desapercibida para los sistemas de la empresa, violando sus propias políticas.
PUBLICIDAD
A Meta se beneficiaron de anuncios que violaban las leyes electorales y difundían discursos de odio, incluso después promess para combatir la desinformación.
La empresa no protegió a sus usuarios y a la Democracia Indio, exigiendo medidas inmediatas para evitar que esto vuelva a suceder.
Detalles del meta fracaso
- Meta permitió la publicación de anuncios que difamaban a los musulmanes, pedían su ejecución y difundían desinformación sobre los líderes políticos.
- Los anuncios fueron enviados por India Civil Watch International (ICWI) y Ekō para probar los mecanismos de Meta contra contenido dañino.
- Meta no pudo detectar que los anuncios utilizaban imágenes manipuladas por IA, a pesar de promehay que luchar contra ellos.
- Se rechazaron cinco anuncios por violar las políticas de Meta, pero se aprobaron 14 a pesar de violar las mismas reglas.
- Meta no reconoció que los anuncios eran políticos, lo que les permitía violar las leyes electorales indias.
- La empresa se benefició de estos anuncios, a pesar de que incitaban a la violencia y violaban las leyes.
- Meta ha sido criticada anteriormente por no combatir el discurso de odio islamófobo en sus plataformas en India.
- Nick Clegg, presidente de asuntos globales de Meta, admitió que la empresa no abordó la desinformación en las elecciones indias.
La empresa debe tomar medidas inmediatas.
- Mejore sus mecanismos de detección de contenido dañino, incluidas imágenes manipuladas por IA.
- Implementar políticas más estrictas contra el discurso de odio y la desinformación, especialmente en contextos políticos.
- Cooperar con autoridades y organizaciones de la sociedad civil para combatir la proliferación de contenidos nocivos en sus plataformas.
- Sea más transparente sobre sus acciones y asuma la responsabilidad de sus errores.
Acciones recomendadas
- Los metausuarios deben informar cualquier contenido dañino que encuentren en las plataformas de la empresa.
- Las organizaciones de la sociedad civil y los activistas deberían presionar a Meta para que adopte medidas más enérgicas contra el discurso de odio y la desinformación.
- Los gobiernos deberían considerar regular las empresas de redes sociales para garantizar que protejan a sus usuarios y la democracia.
Lea también:
