Tools, die Deepfakes erkennen, müssen bei allen Hauttönen funktionieren, um Voreingenommenheit zu vermeiden, warnen Experten

Die meisten Detektoren Deepfake basiert auf einer Lernstrategie, die stark von dem für das Training verwendeten Datensatz abhängt. Anschließend nutzen sie KI, um Signale zu erkennen, die für das menschliche Auge möglicherweise nicht klar erkennbar sind.

Was sind Deepfakes? | Newsverso-Glossar 

Ein Deepfake ist eine Video- und Bildmanipulationstechnik, die maschinelle Lernalgorithmen nutzt, um falsche und überzeugende Inhalte zu erstellen. Es kombiniert die Rechenleistung moderner Computer mit fortschrittlichen Techniken der künstlichen Intelligenz und ermöglicht so die Erstellung von Videos, die authentisch wirken, in Wirklichkeit aber vollständig erfunden sind.

Dazu kann die Überwachung des Blutflusses und der Herzfrequenz gehören. Diese Erkennungsmethoden funktionieren jedoch nicht immer bei Menschen mit dunklerer Hautfarbe und Wenn Trainingssätze nicht alle Ethnien, Akzente, Geschlechter, Altersgruppen und Hauttöne enthalten, unterliegen sie einer Verzerrung, warnten Experten.

Voreingenommenheit wird aufgebaut

In den letzten zwei Jahren haben Experten für KI und Deepfake-Erkennung Bedenken geäußert, die sagen, dass in diese Systeme Voreingenommenheit eingebaut sei.

Rijul Gupta, Experte für synthetische Medien sowie Mitbegründer und CEO von DeepMedia, das KI und maschinelles Lernen nutzt, um visuelle und akustische Hinweise auf Anzeichen synthetischer Manipulation zu bewerten, sagte: „Datensätze sind immer stark auf weiße Männer mittleren Alters ausgerichtet, und diese Art von Technologie wirkt sich immer negativ auf marginalisierte Gemeinschaften aus".

Mönch-Hauttonskala

Ellis Monk, Professorin für Soziologie an der Harvard University und Gastwissenschaftlerin an der Google, entwickelte die Mönch-Hauttonskala. 

Es handelt sich um eine umfassendere Skala als der Standard der Technologiebranche und bietet ein breiteres Spektrum an Hauttönen, die für Datensätze und Modelle für maschinelles Lernen verwendet werden können.

Monk sagte: „Dunklerhäutige Menschen wurden von der Entwicklung dieser verschiedenen Formen der Technologie von Anfang an ausgeschlossen. Sie müssen neue Datensätze erstellen, die eine größere Abdeckung und eine bessere Darstellung des Hauttons bieten, und das bedeutet, dass Sie eine Art Maß benötigen, das standardisiert, konsistent und repräsentativer als frühere Skalen ist.“

Lesen Sie auch:

KI verändert Marketingkampagnen; Sehen Sie sich Unternehmen an, die es verwenden

Künstliche Intelligenz (KI) verändert das Marketing. Werbetreibende auf der ganzen Welt nutzen die Technologie, um personalisiertere und ansprechendere Kampagnen zu erstellen.

* Der Text dieses Artikels wurde teilweise mit Tools der künstlichen Intelligenz generiert, modernsten Sprachmodellen, die bei der Vorbereitung, Überprüfung, Übersetzung und Zusammenfassung von Texten helfen. Texteinträge wurden von erstellt Curto Nachrichten und Antworten von KI-Tools wurden genutzt, um den endgültigen Inhalt zu verbessern.
Es ist wichtig zu betonen, dass KI-Tools nur Werkzeuge sind und die letztendliche Verantwortung für die veröffentlichten Inhalte bei ihnen liegt Curto Nachricht. Durch den verantwortungsvollen und ethischen Einsatz dieser Tools ist es unser Ziel, die Kommunikationsmöglichkeiten zu erweitern und den Zugang zu hochwertigen Informationen zu demokratisieren. 🤖