Uzmanlar, yapay zeka tarafından değiştirilen görüntülerin 'demokratik süreçlere yönelik bir tehdit' olduğu konusunda uyarıyor

İngiliz siyasetçi Karl Turner, eski adıyla Twitter olan Platform X'te, Başbakan'ın bir festivalde düşük kaliteli bira içtiğini, bir kadının ise alaycı bir ifadeyle baktığını gösteren bir fotoğraf paylaştı. Görüntü, Sunak'ın bir bar birasıyla göründüğü, arkasındaki kişinin ise tarafsız bir ifadeye sahip olduğu orijinal bir fotoğraftan alınmıştır.

Görüntü oluşturmak için yapay zeka, nasıl çalışıyor?

Yapay zekayı kullanarak görüntü oluşturmak, bir dizi adımı içeren oldukça karmaşık bir süreçtir. Yapay zeka görüntüleme teknikleri genel olarak üretken sinir ağlarına (GAN'ler) veya otoregresif akış modellerine dayanır. Bu teknikler, yeni görüntülerin nasıl oluşturulacağını öğrenmek için mevcut verileri kullanır.

Görüntü geniş çapta eleştirilere yol açtı ve Başbakan Yardımcısı Oliver Dowden bunu "kabul edilemez" olarak nitelendirdi.

Uzmanlar, kavganın gelecekteki seçim kampanyalarında neler olabileceğinin bir göstergesi olduğu konusunda uyardı. Sunak'ın görüntüsünün bir yapay zeka aracı kullanılarak değiştirilip değiştirilmediği belli olmasa da, bu programlar ikna edici sahte metin, görüntü ve ses üretmeyi daha kolay ve daha hızlı hale getirdi.

Yapay zeka tarafından üretilen bir görüntü nasıl tanımlanır? Bakmak

Moda tutkunu Papa, tutuklanan Trump vardı, hepsi yapay zeka tarafından yaratılmıştı. Peki yapay zeka tarafından oluşturulan sahte bir görüntüyü nasıl tanımlayacağınızı biliyor musunuz? İpuçlarına bakın:

Wendy HallSouthampton Üniversitesi'nde profesör, uyarıyı yap: “Yapay zeka da dahil olmak üzere dijital teknolojilerin kullanımının demokratik süreçlerimiz için bir tehdit olduğunu düşünüyorum. Gelecek yıl yaklaşan Birleşik Krallık ve ABD'de iki büyük seçimle birlikte yapay zeka risk listesinde gündemin üst sıralarında yer almalı."

Shweta SinghWarwick Üniversitesi'nden bir eğitimci şunları ekliyor: "Bu yeni teknolojilerin kullanıcılarına, okudukları haberlerin güvenilir olduğunu garanti edebilecek ve güvence verebilecek bir dizi etik ilkeye ihtiyacımız var. Bu konuda artık harekete geçmemiz gerekiyor. Çünkü bu tür düzenlemeler olmadan adil ve tarafsız bir seçim hayal etmek mümkün değil. Bu ciddi bir endişe ve zamanımız daralıyor.”

Bu arada en güçlü yapay zeka şirketleri, yapay zeka tarafından oluşturulan içeriği etiketleyecek bir sisteme duyulan ihtiyacın farkına vardı. Geçen ay Amazon geliştiricisi, Google, Microsoft e ChatGPT, OpenAI, Joe Biden ile yaptığı toplantıda yapay zeka destekli görsel ve işitsel içerik için filigran kullanımını da içeren bir dizi yeni önlem üzerinde anlaşmaya vardı.

Amerikan yapay zeka devleri öz düzenleme arayışında birleşiyor

Google, Microsoft, Antropik ve OpenAIEn son teknolojiye sahip Yapay Zeka (AI) sahnesine liderlik eden Amerikan şirketlerinden dördü, bu Çarşamba (26) bu teknolojiyle ilgili risklerle mücadele etmek için yeni bir profesyonel yapı oluşturulduğunu duyurdu.

Ayrıca okuyun:

Adaylar, kampanyaları öne çıkarmak için yapay zeka tarafından oluşturulan sahte görselleri kullanıyor; Üç kollu seçmenler bile var

Bu yıl Brezilya'da seçim yok ama dünyanın diğer yerlerinde kampanyalar şimdiden tüm hızıyla devam ediyor. Adaylar popüler olmak için harekete geçiyor ve birçoğu bunu internette viral hale gelerek yapmaya çalışıyor. Sorun yöntemde. Politikacılar, yanıltıcı reklamlar üretmek ve hatta siyasi rakiplere sahte içerikle saldırmak için yapay zeka (AI) tarafından oluşturulan görselleri kullanmaya başladı. Anlamak.

MIT araştırmacıları görüntüleri yapay zeka manipülasyonuna karşı korumak için teknik geliştiriyor

Massachusetts Teknoloji Enstitüsü'ndeki (MIT) araştırmacılar, görüntüleri yapay zeka (AI) modellerinin manipülasyonundan korumak için kullanılabilecek PhotoGuard adı verilen yeni bir teknik geliştirdiler.

* Bu makalenin metni kısmen yapay zeka araçları, metinlerin hazırlanmasına, incelenmesine, çevrilmesine ve özetlenmesine yardımcı olan son teknoloji dil modelleri tarafından oluşturulmuştur. Metin girişleri şu kişi tarafından oluşturuldu: Curto Nihai içeriği iyileştirmek için yapay zeka araçlarından gelen haberler ve yanıtlar kullanıldı.
Yapay zeka araçlarının yalnızca araçlar olduğunu ve yayınlanan içeriğin nihai sorumluluğunun kullanıcıya ait olduğunu vurgulamak önemlidir. Curto Haberler. Bu araçları sorumlu ve etik bir şekilde kullanarak amacımız iletişim olanaklarını genişletmek ve kaliteli bilgiye erişimi demokratikleştirmektir. 🤖