کارشناسان هشدار می‌دهند که تصاویر تغییر یافته توسط هوش مصنوعی «تهدیدی برای فرآیندهای دموکراتیک» هستند

کارل ترنر، سیاستمدار بریتانیایی، تصویری را در پلتفرم ایکس، سابقاً توییتر، به اشتراک گذاشت که نشان می‌دهد نخست‌وزیر در حال نوشیدن آبجوی بی‌کیفیت در یک جشنواره است، در حالی که یک زن با حالتی تمسخر آمیز به آن نگاه می‌کند. تصویر از یک عکس اصلی دستکاری شده است، که در آن سوناک با آبجو میخانه ظاهر می شود، در حالی که شخصی که پشت سر او قرار دارد حالتی خنثی دارد.

هوش مصنوعی برای ایجاد تصاویر، چگونه کار می کند؟

تولید تصاویر با استفاده از هوش مصنوعی یک فرآیند بسیار پیچیده است که شامل یک سری مراحل است. به طور کلی، تکنیک‌های تصویربرداری هوش مصنوعی مبتنی بر شبکه‌های عصبی مولد (GAN) یا مدل‌های جریان اتورگرسیو هستند. این تکنیک ها از داده های موجود برای یادگیری نحوه تولید تصاویر جدید استفاده می کنند.

این تصویر انتقادات گسترده ای را برانگیخت و الیور داودن معاون نخست وزیر آن را "غیر قابل قبول" خواند.

کارشناسان هشدار دادند که این دعوا نشانه ای از اتفاقاتی است که ممکن است در طول مبارزات انتخاباتی آینده رخ دهد. در حالی که مشخص نیست که آیا تصویر Sunak با استفاده از ابزار هوش مصنوعی دستکاری شده است یا خیر، این برنامه ها تولید متن، تصاویر و صدا جعلی متقاعد کننده را آسان تر و سریع تر کرده اند.

چگونه تصویر تولید شده توسط هوش مصنوعی را شناسایی کنیم؟ نگاه کن

پاپ شیک پوش بود، ترامپ دستگیر شد، همه توسط هوش مصنوعی تولید شده بود. اما آیا می دانید چگونه یک تصویر جعلی تولید شده توسط هوش مصنوعی را شناسایی کنید؟ نکات را ببینید:

وندی هالاستاد دانشگاه ساوتهمپتون، هشدار را ایجاد کنید: "من فکر می کنم استفاده از فناوری های دیجیتال، از جمله هوش مصنوعی، تهدیدی برای فرآیندهای دموکراتیک ما است. با نزدیک شدن به دو انتخابات مهم - در بریتانیا و ایالات متحده - در سال آینده، باید در فهرست ریسک هوش مصنوعی در دستور کار قرار گیرد.

شوتا سینگیکی از مربیان دانشگاه وارویک می‌افزاید: «ما به مجموعه‌ای از اصول اخلاقی نیاز داریم که بتواند کاربران این فناوری‌های جدید را تضمین کند و اطمینان دهد که اخباری که می‌خوانند قابل اعتماد است. ما اکنون باید در این زمینه اقدام کنیم، زیرا اگر چنین مقرراتی وجود نداشته باشد، تصور انتخابات عادلانه و بی طرفانه غیرممکن است. این یک نگرانی جدی است و زمان ما در حال اتمام است.»

در همین حال، قدرتمندترین شرکت های هوش مصنوعی نیاز به سیستمی برای برچسب گذاری محتوای تولید شده توسط هوش مصنوعی را تشخیص داده اند. ماه گذشته، توسعه دهنده آمازون، Google، متا، Microsoft e ChatGPT, OpenAI، در ملاقات با جو بایدن با مجموعه ای از پادمان های جدید موافقت کرد که شامل استفاده از واترمارک برای محتوای بصری و صوتی مبتنی بر هوش مصنوعی بود.

غول های هوش مصنوعی آمریکایی متحد می شوند تا به دنبال خودتنظیمی باشند

Google, Microsoft، آنتروپیک و OpenAIچهار شرکت آمریکایی که در زمینه هوش مصنوعی (AI) پیشرو هستند، چهارشنبه (26) از ایجاد یک بدنه حرفه ای جدید برای مبارزه با خطرات مرتبط با این فناوری خبر دادند.

همچنین بخوانید:

نامزدها از تصاویر جعلی تولید شده توسط هوش مصنوعی برای تقویت کمپین ها استفاده می کنند. حتی رای دهندگان با سه بازو نیز وجود دارند

ما امسال در برزیل انتخابات نداریم، اما در سایر نقاط جهان مبارزات انتخاباتی در حال انجام است. کاندیداها برای محبوب شدن بسیج می شوند و بسیاری از آنها سعی می کنند این کار را با انتشار ویروسی در اینترنت انجام دهند. مشکل روش است. سیاستمداران شروع به استفاده از تصاویر ایجاد شده توسط هوش مصنوعی (AI) برای تولید قطعات تبلیغاتی گمراه کننده و حتی حمله به مخالفان سیاسی با محتوای نادرست کردند. فهمیدن.

محققان MIT تکنیکی را برای محافظت از تصاویر در برابر دستکاری هوش مصنوعی توسعه دادند

محققان موسسه فناوری ماساچوست (MIT) تکنیک جدیدی به نام PhotoGuard ایجاد کرده اند که می تواند برای محافظت از تصاویر در برابر دستکاری مدل های هوش مصنوعی (AI) استفاده شود.

* متن این مقاله تا حدی توسط ابزارهای هوش مصنوعی، مدل‌های زبانی پیشرفته که در تهیه، بررسی، ترجمه و خلاصه‌سازی متون کمک می‌کنند، تولید شده است. ورودی های متنی توسط Curto از اخبار و پاسخ‌های ابزارهای هوش مصنوعی برای بهبود محتوای نهایی استفاده شد.
مهم است که تأکید کنیم ابزارهای هوش مصنوعی فقط ابزار هستند و مسئولیت نهایی محتوای منتشر شده بر عهده Curto اخبار. با استفاده مسئولانه و اخلاقی از این ابزارها، هدف ما گسترش امکانات ارتباطی و دموکراتیک کردن دسترسی به اطلاعات با کیفیت است. 🤖