Инструментите, които откриват deepfakes, трябва да работят върху всички тонове на кожата, за да се избегнат пристрастия, предупреждават експертите

Повечето детектори deepfake се основава на стратегия за обучение, която зависи в голяма степен от набора от данни, използван за неговото обучение. След това те използват AI, за да открият сигнали, които може да не са ясни за човешкото око.

Какво представляват deepfakes? | Речник на Newsverso 

Deepfake е техника за манипулиране на видео и изображения, която използва алгоритми за машинно обучение, за да създаде невярно и убедително съдържание. Той съчетава процесорната мощ на съвременните компютри с усъвършенствани техники за изкуствен интелект, което позволява създаването на видеоклипове, които изглеждат автентични, но всъщност са напълно изфабрикувани.

Това може да включва наблюдение на кръвния поток и сърдечната честота. Тези методи за откриване обаче не винаги работят при хора с по-тъмен тон на кожата и, Ако комплектите за обучение не съдържат всички етноси, акценти, полове, възрасти и тонове на кожата, те са обект на пристрастия, предупредиха експерти.

Изгражда се пристрастие

През последните две години бяха изразени опасения от експерти в областта на изкуствения интелект и откриването на дълбоки фалшификати, които казват, че в тези системи са вградени пристрастия.

Rijul Gupta, експерт по синтетични медии и съосновател и главен изпълнителен директор на DeepMedia, който използва AI и машинно обучение, за да оцени визуални и аудио сигнали за признаци на синтетична манипулация, каза: „Наборите от данни винаги са силно изкривени към белите мъже на средна възраст и този тип технология винаги оказва отрицателно въздействие върху маргинализираните общности".

Скала на тона на кожата на монаха

Елис Монк, професор по социология в Харвардския университет и гостуващ учен в Google, разработи Скала на тона на кожата на монаха. 

Това е по-всеобхватна скала от стандарта на технологичната индустрия и ще предостави по-широк спектър от тонове на кожата, които могат да се използват за набори от данни и модели за машинно обучение.

Монк каза: „Хората с по-тъмна кожа са били изключени от начина, по който тези различни форми на технология са били разработени от самото начало. Трябва да изградите нови набори от данни, които имат по-голямо покритие, по-голямо представяне по отношение на тена на кожата и това означава, че имате нужда от някаква мярка, която е стандартизирана, последователна и по-представителна от предишните скали.

Прочетете също така:

AI трансформира маркетинговите кампании; вижте компаниите, които използват

Изкуственият интелект (AI) трансформира маркетинга, като рекламодателите по целия свят използват технологията, за да създават по-персонализирани и ангажиращи кампании.

* Текстът на тази статия е частично генериран от инструменти за изкуствен интелект, най-съвременни езикови модели, които подпомагат подготовката, прегледа, превода и резюмирането на текстове. Текстовите записи са създадени от Curto Новини и отговори от AI инструменти бяха използвани за подобряване на крайното съдържание.
Важно е да се подчертае, че AI инструментите са само инструменти и крайната отговорност за публикуваното съдържание се носи от Curto Новини. Като използваме тези инструменти отговорно и етично, нашата цел е да разширим възможностите за комуникация и да демократизираме достъпа до качествена информация. 🤖