YouTube ahora exige a los creadores que revelen cuándo se creó contenido realista con IA

La plataforma está introduciendo una nueva herramienta en Creator Studio que requerirá que los creadores revelen cuándo se creó contenido que los espectadores podrían confundir con una persona, lugar o evento real con medios alterados o sintéticos, incluida la IA generativa.

YouTube ahora exige a los creadores que revelen cuándo se creó contenido realista con IA https://t.co/HXCsXQpONr

- TechCrunch (@TechCrunch) Marzo 18, 2024

Las nuevas revelaciones tienen como objetivo evitar que se haga creer a los usuarios que un video creado sintéticamente es real, ya que las nuevas herramientas de inteligencia artificial generativa hacen que sea más difícil diferenciar entre lo real y lo falso. El lanzamiento se produce en un momento en el que los expertos advierten que la IA y deepfakes supondrá un riesgo notable durante las próximas elecciones presidenciales de Estados Unidos.

Google limita el chatbot Gemini para evitar errores en las elecciones

O Google está restringiendo las respuestas del chatbot Gemini sobre las elecciones globales de 2024, buscando evitar posibles fracasos y desinformación. La medida se produce en medio de crecientes preocupaciones sobre el uso de IA generativa, como la creación de imágenes y vídeos falsos, que podrían influir en el público y conducir a una regulación gubernamental de la tecnología.

El anuncio se produce cuando YouTube anunció en noviembre que lanzaríaaria la actualización como parte de una introducción más amplia de nuevas políticas de seguridad inteligencia artificial.

YouTube tendrá etiquetas para vídeos con IA e intensificará la lucha contra los deepfakes en las elecciones

YouTube publicó pautas en su blog oficial que detallan su enfoque hacia el contenido generado por inteligencia artificial (IA).

YouTube dice que la nueva política no requiere que los creadores publiquen contenido que sea claramente poco realista o animado, como alguien montando un unicornio en un mundo de fantasía. Tampoco requiere que los creadores revelen contenido que utilizó tecnología para asistencia en producción, como generación de guiones o subtítulos automáticos.

En cambio, YouTube apunta a videos que utilizan una imagen de una persona realista. Por ejemplo, los creadores tendrán que revelar cuándo alteran digitalmente el contenido para "reemplazar el rostro de un individuo por el de otro o generar sintéticamente la voz de una persona para narrar un video". dice youtube.

También tendrán que publicar contenido que altere imágenes de eventos o lugares reales, como hacer que parezca como si un edificio real se incendiara. Los creadores también tendrán que revelar cuándo generan imágenes realistas de eventos ficticios importantes, como un tornado que avanza hacia una ciudad real.

Lea también:

Investigador de OpenAI predice un ritmo más lento de progreso en IA después del lanzamiento de GPT-4

Leopold Aschenbrenner, investigador de OpenAI, señaló que el año siguiente al lanzamiento de GPT-4 se caracterizaría por un ritmo más lento de progreso en inteligencia artificial (IA). Esta declaración pone de relieve un período de expectativas moderadas y de desarrollo más gradual en el campo de la IA.