Las imágenes alteradas por la IA son una "amenaza para los procesos democráticos", advierten los expertos

El político británico Karl Turner compartió una imagen en Plataforma X, antes Twitter, que muestra al Primer Ministro bebiendo una cerveza de baja calidad en un festival, mientras una mujer observa con expresión burlona. La imagen fue manipulada de una foto original, en la que Sunak aparece con una cerveza de pub, mientras la persona detrás de él tiene una expresión neutral.

Inteligencia artificial para crear imágenes, ¿cómo funciona?

Generar imágenes mediante inteligencia artificial es un proceso muy sofisticado que implica una serie de pasos. Generalmente, las técnicas de imágenes de IA se basan en redes neuronales generativas (GAN) o modelos de flujo autorregresivos. Estas técnicas utilizan datos existentes para aprender a generar nuevas imágenes.

La imagen provocó críticas generalizadas y el viceprimer ministro Oliver Dowden la calificó de “inaceptable”.

Los expertos advirtieron que la pelea es un indicio de lo que podría suceder durante futuras campañas electorales. Si bien no está claro si la imagen de Sunak fue manipulada utilizando una herramienta de inteligencia artificial, estos programas han hecho que sea más fácil y rápido producir texto, imágenes y audio falsos convincentes.

¿Cómo identificar una imagen producida por IA? vea

Estaba el Papa fashionista, el arresto de Trump, todo generado por inteligencia artificial. ¿Pero sabes cómo identificar una imagen falsa generada por IA? Ver consejos:

Wendy Hall, profesor de la Universidad de Southampton, hacer la alerta: “Creo que el uso de tecnologías digitales, incluida la IA, es una amenaza para nuestros procesos democráticos. Debería ocupar un lugar destacado en la agenda del registro de riesgos de IA, ya que el próximo año se acercan dos elecciones importantes, en el Reino Unido y en Estados Unidos”.

Shweta Singh, educador de la Universidad de Warwick, añade: “Necesitamos un conjunto de principios éticos que puedan garantizar y asegurar a los usuarios de estas nuevas tecnologías que las noticias que leen son dignas de confianza. Necesitamos actuar al respecto ahora, ya que es imposible imaginar elecciones justas e imparciales si no existen tales regulaciones. Es una preocupación grave y se nos está acabando el tiempo”.

Mientras tanto, las empresas de IA más poderosas han reconocido la necesidad de un sistema para etiquetar el contenido generado por IA. El mes pasado, el desarrollador de Amazon, Google, meta, Microsoft e ChatGPT, OpenAI, acordó un conjunto de nuevas salvaguardias en una reunión con Joe Biden, que incluía el uso de marcas de agua para contenido visual y de audio impulsado por IA.

Los gigantes estadounidenses de la IA se unen para buscar la autorregulación

Google, Microsoft, Antrópico y OpenAI, cuatro de las empresas estadounidenses que lideran el panorama de la Inteligencia Artificial (IA) de última generación, anunciaron este miércoles (26) la creación de un nuevo organismo profesional para combatir los riesgos asociados a esta tecnología.

Lea también:

Los candidatos utilizan imágenes falsas generadas por IA para impulsar sus campañas; Incluso hay votantes con tres brazos

Este año no tenemos elecciones en Brasil, pero en otras partes del mundo las campañas ya están en pleno apogeo. Los candidatos se están movilizando para hacerse populares y muchos de ellos intentan hacerlo volviéndose virales en Internet. El problema es el método. Los políticos comenzaron a utilizar imágenes creadas por inteligencia artificial (IA) para producir piezas publicitarias engañosas e incluso atacar a opositores políticos con contenido falso. Entender.

Investigadores del MIT desarrollan una técnica para proteger imágenes contra la manipulación de la IA

Investigadores del Instituto Tecnológico de Massachusetts (MIT) han desarrollado una nueva técnica llamada PhotoGuard que puede utilizarse para proteger imágenes de la manipulación por modelos de inteligencia artificial (IA).

* El texto de este artículo fue generado parcialmente por herramientas de inteligencia artificial, modelos de lenguaje de última generación que ayudan en la preparación, revisión, traducción y resumen de textos. Las entradas de texto fueron creadas por el Curto Se utilizaron noticias y respuestas de herramientas de inteligencia artificial para mejorar el contenido final.
Es importante resaltar que las herramientas de IA son sólo herramientas, y la responsabilidad final del contenido publicado recae en el Curto Noticias. Al utilizar estas herramientas de manera responsable y ética, nuestro objetivo es ampliar las posibilidades de comunicación y democratizar el acceso a información de calidad. 🤖