Las herramientas que detectan deepfakes deben funcionar en todos los tonos de piel para evitar sesgos, advierten los expertos

La mayoría de los detectores deepfake se basa en una estrategia de aprendizaje que depende en gran medida del conjunto de datos utilizado para su entrenamiento. Luego utilizan IA para detectar señales que pueden no ser claras para el ojo humano.

¿Qué son los deepfakes? | Glosario Newsverso 

Un deepfake es una técnica de manipulación de vídeos e imágenes que utiliza algoritmos de aprendizaje automático para crear contenido falso y convincente. Combina el poder de procesamiento de las computadoras modernas con técnicas avanzadas de inteligencia artificial, lo que permite la creación de videos que parecen auténticos pero que en realidad son completamente inventados.

Esto puede incluir controlar el flujo sanguíneo y la frecuencia cardíaca. Sin embargo, estos métodos de detección no siempre funcionan en personas con tonos de piel más oscuros y, Si los conjuntos de entrenamiento no contienen todas las etnias, acentos, géneros, edades y tonos de piel, están sujetos a sesgos., advirtieron los expertos.

Sesgo en construcción

En los últimos dos años, los expertos en inteligencia artificial y detección de deepfake han expresado su preocupación y afirman que se están incorporando sesgos en estos sistemas.

Rijul Gupta, experto en medios sintéticos y cofundador y director ejecutivo de DeepMedia, que utiliza inteligencia artificial y aprendizaje automático para evaluar señales visuales y de audio en busca de signos de manipulación sintética, dijo: “Los conjuntos de datos siempre están muy sesgados hacia los hombres blancos de mediana edad, y este tipo de tecnología siempre impacta negativamente a las comunidades marginadas..

Escala de tonos de piel de monje

Ellis Monk, profesor de sociología en la Universidad de Harvard y académico visitante en la Google, desarrolló el Escala de tonos de piel de monje. 

Es una escala más inclusiva que el estándar de la industria tecnológica y proporcionará un espectro más amplio de tonos de piel que se pueden utilizar para conjuntos de datos y modelos de aprendizaje automático.

Monk dijo: “Las personas de piel más oscura han sido excluidas de cómo se han desarrollado estas diferentes formas de tecnología desde el principio. Es necesario crear nuevos conjuntos de datos que tengan más cobertura, más representación en términos de tono de piel y eso significa que se necesita algún tipo de medida que sea estandarizada, consistente y más representativa que las escalas anteriores”.

Lea también:

La IA está transformando las campañas de marketing; ver empresas que están utilizando

La inteligencia artificial (IA) está transformando el marketing y los anunciantes de todo el mundo utilizan la tecnología para crear campañas más personalizadas y atractivas.

* El texto de este artículo fue generado parcialmente por herramientas de inteligencia artificial, modelos de lenguaje de última generación que ayudan en la preparación, revisión, traducción y resumen de textos. Las entradas de texto fueron creadas por el Curto Se utilizaron noticias y respuestas de herramientas de inteligencia artificial para mejorar el contenido final.
Es importante resaltar que las herramientas de IA son sólo herramientas, y la responsabilidad final del contenido publicado recae en el Curto Noticias. Al utilizar estas herramientas de manera responsable y ética, nuestro objetivo es ampliar las posibilidades de comunicación y democratizar el acceso a información de calidad. 🤖