کارشناسان هشدار می‌دهند ابزارهایی که دیپ‌فیک را تشخیص می‌دهند باید روی همه رنگ‌های پوست کار کنند تا از سوگیری جلوگیری شود

اکثر آشکارسازها deepfake مبتنی بر یک استراتژی یادگیری است که به شدت به مجموعه داده مورد استفاده برای آموزش آن بستگی دارد. سپس از هوش مصنوعی برای تشخیص سیگنال هایی استفاده می کنند که ممکن است برای چشم انسان واضح نباشد.

دیپ فیک چیست؟ | واژه نامه Newsverso 

دیپ فیک یک تکنیک دستکاری ویدیو و تصویر است که از الگوریتم های یادگیری ماشین برای ایجاد محتوای نادرست و قانع کننده استفاده می کند. قدرت پردازش رایانه‌های مدرن را با تکنیک‌های هوش مصنوعی پیشرفته ترکیب می‌کند و امکان ایجاد ویدیوهایی را می‌دهد که معتبر به نظر می‌رسند اما در واقع کاملاً ساخته شده‌اند.

این ممکن است شامل نظارت بر جریان خون و ضربان قلب باشد. با این حال، این روش‌های تشخیص همیشه روی افرادی که پوست تیره‌تری دارند و اگر مجموعه‌های آموزشی شامل همه قومیت‌ها، لهجه‌ها، جنسیت، سن و رنگ پوست نباشد، در معرض تعصب قرار می‌گیرند.، کارشناسان هشدار دادند.

تعصب در حال ساخت است

در طول دو سال گذشته، نگرانی‌هایی از سوی کارشناسان در زمینه هوش مصنوعی و تشخیص عمیق جعلی مطرح شده است که می‌گویند تعصب در این سیستم‌ها ایجاد شده است.

ریجول گوپتا، کارشناس رسانه های مصنوعی و یکی از بنیانگذاران و مدیر عامل DeepMedia، که از هوش مصنوعی و یادگیری ماشینی برای ارزیابی نشانه های بصری و صوتی برای نشانه های دستکاری مصنوعی استفاده می کند، گفت:مجموعه داده ها همیشه به شدت به سمت مردان میانسال سفیدپوست منحرف می شوند و این نوع فناوری همیشه بر جوامع به حاشیه رانده شده تأثیر منفی می گذارد.".

مقیاس رنگ پوست راهب

الیس مونک، استاد جامعه شناسی در دانشگاه هاروارد و محقق مدعو در دانشگاه هاروارد Google، توسعه داده است مقیاس رنگ پوست راهب. 

این مقیاس فراگیرتر از استاندارد صنعت فناوری است و طیف وسیع تری از رنگ پوست را ارائه می دهد که می تواند برای مجموعه داده ها و مدل های یادگیری ماشین استفاده شود.

مونک گفت: «افراد با پوست تیره‌تر از ابتدا از نحوه توسعه این اشکال مختلف فناوری کنار گذاشته شده‌اند. شما باید مجموعه‌های داده جدیدی بسازید که پوشش بیشتری داشته باشد، بازنمایی بیشتری از نظر رنگ پوست داشته باشد و این بدان معناست که شما به نوعی معیار استاندارد، سازگار و نماینده‌تر از مقیاس‌های قبلی نیاز دارید.»

همچنین بخوانید:

هوش مصنوعی کمپین های بازاریابی را متحول می کند. شرکت هایی را ببینید که استفاده می کنند

هوش مصنوعی (AI) بازاریابی را متحول می کند و تبلیغ کنندگان در سراسر جهان از این فناوری برای ایجاد کمپین های شخصی و جذاب تر استفاده می کنند.

* متن این مقاله تا حدی توسط ابزارهای هوش مصنوعی، مدل‌های زبانی پیشرفته که در تهیه، بررسی، ترجمه و خلاصه‌سازی متون کمک می‌کنند، تولید شده است. ورودی های متنی توسط Curto از اخبار و پاسخ‌های ابزارهای هوش مصنوعی برای بهبود محتوای نهایی استفاده شد.
مهم است که تأکید کنیم ابزارهای هوش مصنوعی فقط ابزار هستند و مسئولیت نهایی محتوای منتشر شده بر عهده Curto اخبار. با استفاده مسئولانه و اخلاقی از این ابزارها، هدف ما گسترش امکانات ارتباطی و دموکراتیک کردن دسترسی به اطلاعات با کیفیت است. 🤖