ディープフェイクを検出するツールは偏見を避けるためにすべての肌の色で動作する必要があると専門家が警告

ほとんどの検出器 ディープフェイク は、トレーニングに使用されるデータセットに大きく依存する学習戦略に基づいています。次に、AI を使用して、人間の目には明確ではない信号を検出します。

ディープフェイクとは何ですか? |ニュースバーソ用語集 

ディープフェイクは、機械学習アルゴリズムを使用して偽りの説得力のあるコンテンツを作成するビデオと画像の操作技術です。最新のコンピューターの処理能力と高度な人工知能技術を組み合わせて、本物のように見えても実際には完全に捏造されたビデオの作成を可能にします。

これには、血流と心拍数のモニタリングが含まれる場合があります。ただし、これらの検出方法は、肌の色が濃い人には常に機能するとは限りません。 トレーニング セットにすべての民族、アクセント、性別、年齢、肌の色が含まれていない場合、バイアスの影響を受ける可能性があります。と専門家は警告した。

構築されているバイアス

過去 2 年間にわたり、AI とディープフェイク検出の専門家らは、これらのシステムにバイアスが組み込まれていると懸念を表明しています。

合成メディアの専門家であり、AI と機械学習を使用して合成操作の兆候を示す視覚的および音声的手がかりを評価する DeepMedia の共同創設者兼 CEO である Rijul Gupta 氏は次のように述べています。データセットは常に中年の白人男性に大きく偏っており、この種のテクノロジーは常に疎外されたコミュニティに悪影響を及ぼします"。

モンクのスキントーンスケール

エリス・モンク、ハーバード大学社会学教授、ハーバード大学客員研究員 Googleを開発しました。 モンクのスキントーンスケール. 

これはテクノロジー業界の標準よりも包括的なスケールであり、データセットや機械学習モデルに使用できる幅広い肌の色合いを提供します。

モンク氏は、「肌の色が濃い人たちは、こうしたさまざまな形のテクノロジーの開発から当初から排除されてきた。より多くの範囲をカバーし、肌の色合いをより表現できる新しいデータセットを構築する必要があります。つまり、標準化され、一貫性があり、以前のスケールよりも代表的な何らかの尺度が必要になります。」

また、お読みください。

AI はマーケティング キャンペーンを変革しています。を使用している企業を見る

人工知能 (AI) はマーケティングを変革しており、世界中の広告主がこのテクノロジーを利用して、よりパーソナライズされた魅力的なキャンペーンを作成しています。

* この記事のテキストの一部は、テキストの準備、レビュー、翻訳、要約を支援する最先端の言語モデルである人工知能ツールによって生成されました。テキストエントリは、 Curto AI ツールからのニュースと応答は、最終的なコンテンツを改善するために使用されました。
AI ツールは単なるツールであり、公開されたコンテンツに対する最終的な責任は AI ツールにあることを強調することが重要です。 Curto ニュース。これらのツールを責任を持って倫理的に使用することで、コミュニケーションの可能性を拡大し、質の高い情報へのアクセスを民主化することが私たちの目的です。 🤖