YouTube prohibeix les falsificacions profundes de víctimes de crims en vídeos de crims reals

L'actualització de la política de YouTube respon a un subgènere de contingut real relacionat amb la delinqüència ("veritable crim"), en quin fons profunds s'utilitzen per crear vídeos amb relats de les víctimes sobre la violència que van patir.

Alguns vídeos inclouen veus generades per intel·ligència artificial (AI) similars a les dels nens. Famílies de les víctimes retratades als vídeos, va qualificar el contingut de "repugnant".

Què són els deepfakes? | Newsverso Glossari 

Un deepfake és una tècnica de manipulació de vídeos i imatges que utilitza algorismes d'aprenentatge automàtic per crear contingut fals i convincent. Combina la potència de processament dels ordinadors moderns amb tècniques avançades d'intel·ligència artificial, permetent la creació de vídeos que semblen autèntics però que de fet estan completament fabricats.

La violació de la nova política de la plataforma comportarà l'eliminació de contingut del canal i restriccions temporals a les activitats dels usuaris. Les sancions augmenten amb les infraccions reiterates, cosa que pot provocar la supressió del canal.

L'actualització de la política YouTube és una altra mesura que prenen les plataformes de xarxes socials per combatre la propagació de deepfakes. O Tik Tok, per exemple, ara requereix que els creadors etiquetin el contingut generat per IA com a tal. YouTube també va anunciar una política estricta sobre "clons" de veus de músics impulsats per IA.

YouTube llança un experiment d'IA per crear música amb artistes reconeguts

YouTube s'ha associat amb músics de renom per oferir versions creades amb IA de les seves veus cantants, que serviran de bandes sonores per als vídeos dels creadors. La plataforma de vídeo utilitza un model de generació de música desenvolupat per la divisió d'IA Google per produir clips exclusius de 30 segons en una prova limitada.

La prohibició de les falsificacions profundes de víctimes de delictes en vídeos de crims veritable crim és una mesura important adoptada per YouTube per protegir la privadesa i la dignitat de les víctimes.

Llegiu també:

La IA alimenta el frau a les aplicacions de cites i a les xarxes socials; entendre

La intel·ligència artificial (IA), combinada amb les guerres a Ucraïna i l'Orient Mitjà, està impulsant un augment del frau a les aplicacions de cites i a les xarxes socials, van dir els funcionaris d'Europol.

* El text d'aquest article ha estat generat parcialment per eines d'intel·ligència artificial, models de llenguatge d'última generació que ajuden a la preparació, revisió, traducció i resum de textos. Les entrades de text les va crear Curto Les notícies i les respostes d'eines d'IA es van utilitzar per millorar el contingut final.
És important destacar que les eines d'IA són només eines i la responsabilitat final del contingut publicat recau en el Curto Notícies. Amb un ús responsable i ètic d'aquestes eines, el nostre objectiu és ampliar les possibilitats de comunicació i democratitzar l'accés a la informació de qualitat. 🤖