Nástroje, které detekují deepfakes, musí fungovat na všech odstínech pleti, aby se předešlo zkreslení, varují odborníci

Většina detektorů deepfake je založen na strategii učení, která do značné míry závisí na datovém souboru použitém pro jeho školení. Pomocí AI pak detekují signály, které nemusí být lidskému oku jasné.

Co jsou deepfakes? | Slovník Newsverso 

Deepfake je technika manipulace s videem a obrázky, která využívá algoritmy strojového učení k vytváření falešného a přesvědčivého obsahu. Kombinuje výpočetní výkon moderních počítačů s pokročilými technikami umělé inteligence, což umožňuje vytvářet videa, která vypadají autenticky, ale ve skutečnosti jsou zcela vymyšlená.

To může zahrnovat sledování průtoku krve a srdeční frekvence. Tyto metody detekce však ne vždy fungují u lidí s tmavšími odstíny pleti a Pokud tréninkové sady neobsahují všechny etnické skupiny, akcenty, pohlaví, věk a odstíny pleti, podléhají zkreslení, varovali odborníci.

Buduje se zaujatost

Během posledních dvou let vznesli obavy odborníci na AI a detekci deepfake, kteří říkají, že do těchto systémů je zabudována zkreslení.

Rijul Gupta, odborník na syntetická média a spoluzakladatel a generální ředitel společnosti DeepMedia, která využívá AI a strojové učení k vyhodnocování vizuálních a zvukových podnětů pro známky syntetické manipulace, řekl:Soubory dat jsou vždy silně zkreslené směrem k bílým mužům středního věku a tento typ technologie vždy negativně ovlivňuje marginalizované komunity.".

Mniší stupnice tónu pleti

Ellis Monk, profesor sociologie na Harvardské univerzitě a hostující vědec na Google, vyvinul Mniší stupnice tónu pleti. 

Je to inkluzivnější měřítko než standard technologického průmyslu a poskytne širší spektrum odstínů pleti, které lze použít pro datové sady a modely strojového učení.

Monk řekl: „Lidé s tmavší pletí byli od počátku vyloučeni z toho, jak byly tyto různé formy technologie vyvíjeny. Potřebujete vytvořit nové datové sady, které budou mít větší pokrytí, více zastoupení z hlediska odstínu pleti, a to znamená, že potřebujete nějaký druh měření, který je standardizovaný, konzistentní a reprezentativnější než předchozí stupnice.“

Čtěte také:

AI mění marketingové kampaně; viz společnosti, které používají

Umělá inteligence (AI) mění marketing a inzerenti po celém světě tuto technologii využívají k vytváření personalizovanějších a poutavějších kampaní.

* Text tohoto článku byl částečně generován nástroji umělé inteligence, nejmodernějšími jazykovými modely, které pomáhají při přípravě, kontrole, překladu a sumarizaci textů. Textové položky byly vytvořeny Curto Ke zlepšení konečného obsahu byly použity novinky a odpovědi z nástrojů AI.
Je důležité zdůraznit, že nástroje AI jsou pouze nástroje a konečnou odpovědnost za publikovaný obsah nese společnost Curto Zprávy. Odpovědným a etickým používáním těchto nástrojů je naším cílem rozšířit možnosti komunikace a demokratizovat přístup ke kvalitním informacím. 🤖