YouTube ara requereix que els creadors revelin quan s'ha fet contingut realista amb IA

La plataforma està introduint una nova eina a Creator Studio que requerirà que els creadors revelin quan el contingut que els espectadors podrien confondre amb una persona, lloc o esdeveniment real s'ha creat amb mitjans alterats o sintètics, inclosa la IA generativa.

YouTube ara requereix que els creadors revelin quan s'ha fet contingut realista amb IA https://t.co/HXCsXQpONr

- TechCrunch (@TechCrunch) Març 18, 2024

Les noves divulgacions pretenen evitar que els usuaris se'ls faci creure que un vídeo creat sintèticament és real, ja que les noves eines d'IA generativa dificulten la diferenciació entre el que és real i el que és fals. El llançament té lloc en un moment en què avisen els experts que AI i fons profunds suposarà un risc notable durant les properes eleccions presidencials dels EUA.

Google limita el chatbot Gemini per evitar errors en les eleccions

O Google està restringint les respostes del chatbot Gemini sobre les eleccions globals del 2024, buscant evitar possibles fracassos i desinformació. El moviment es produeix enmig de les creixents preocupacions sobre l'ús d'IA generativa, com ara la creació d'imatges i vídeos falsos, que podrien influir en el públic i conduir a la regulació governamental de la tecnologia.

L'anunci arriba quan YouTube va anunciar al novembre que es llançariaaria l'actualització com a part d'una introducció més àmplia de noves polítiques de seguretat intel·ligència artificial.

YouTube tindrà etiquetes per als vídeos d'IA i intensificarà la lluita contra les falsificacions profundes a les eleccions

YouTube va publicar directrius al seu bloc oficial que detallen el seu enfocament al contingut generat per la intel·ligència artificial (IA).

YouTube diu que la nova política no requereix que els creadors publiquin contingut clarament poc realista o animat, com algú que munta un unicorn en un món de fantasia. Tampoc requereix que els creadors revelin contingut que utilitzi tecnologia per a l'assistència a la producció, com ara la generació d'scripts o els subtítols automàtics.

En lloc d'això, YouTube s'orienta als vídeos que utilitzen una imatge d'una persona realista. Per exemple, els creadors hauran de revelar quan alteren digitalment el contingut per "substituir la cara d'una persona per la d'una altra o generar sintèticament la veu d'una persona per narrar un vídeo". diu YouTube.

També hauran de publicar contingut que alteri imatges d'esdeveniments o llocs reals, com ara fer que sembli com si s'hagi incendiat un edifici real. Els creadors també hauran de revelar quan generin imatges realistes d'esdeveniments de ficció importants, com ara un tornado que es mou cap a una ciutat real.

Llegiu també:

investigador a OpenAI prediu un ritme més lent de progrés en IA després del llançament de GPT-4

Leopold Aschenbrenner, investigador de OpenAI, va assenyalar que l'any següent al llançament de GPT-4 es caracteritzaria per un ritme més lent de progrés en intel·ligència artificial (IA). Aquesta declaració posa de manifest un període d'expectatives moderades i un desenvolupament més gradual en l'àmbit de la IA.

Busques una eina d'Intel·ligència Artificial que et faci la vida més fàcil? En aquesta guia, navegueu per un catàleg de robots impulsats per IA i apreneu sobre les seves funcionalitats. Consulteu la valoració que els va fer el nostre equip de periodistes!