YouTube kräver nu att kreatörer avslöjar när realistiskt innehåll gjordes med AI

Plattformen introducerar ett nytt verktyg i Creator Studio som kommer att kräva att kreatörer avslöjar när innehåll som tittare kan missta för en riktig person, plats eller händelse skapades med ändrade eller syntetiska medier, inklusive generativ AI.

De nya avslöjandena syftar till att förhindra att användare förleds att tro att en syntetiskt skapad video är verklig, eftersom nya generativa AI-verktyg gör det svårare att skilja mellan vad som är verkligt och vad som är falskt. Lanseringen sker vid en tidpunkt då experter varnar att AI och deepfakes kommer att utgöra en anmärkningsvärd risk under det kommande amerikanska presidentvalet.

Tillkännagivandet kommer när YouTube meddelade i november att det skulle lanserasaria uppdateringen som en del av en bredare introduktion av nya säkerhetspolicyer inteligência artificiell.

YouTube säger att den nya policyn inte kräver att kreatörer lägger upp innehåll som är uppenbart orealistiskt eller animerat, som någon som rider på en enhörning i en fantasivärld. Det kräver inte heller att kreatörer avslöjar innehåll som använde teknik för produktionshjälp, som skriptgenerering eller automatisk textning.

Istället riktar YouTube in sig på videor som använder en bild av en realistisk person. Till exempel måste kreatörer avslöja när de digitalt ändrar innehåll för att "ersätta en individs ansikte med en annans eller syntetiskt generera en persons röst för att berätta en video." säger YouTube.

De kommer också att behöva släppa innehåll som ändrar bilder från verkliga händelser eller platser, som att få det att se ut som att en riktig byggnad fattat eld. Skapare måste också avslöja när de genererar realistiska bilder av stora fiktiva händelser, som en tromb som rör sig mot en riktig stad.

Läs också: