Door AI gewijzigde afbeeldingen vormen een ‘bedreiging voor democratische processen’, waarschuwen experts

De Britse politicus Karl Turner deelde op Platform X, voorheen Twitter, een afbeelding waarop te zien is dat de premier op een festival een biertje van lage kwaliteit drinkt, terwijl een vrouw spottend toekijkt. Het beeld is gemanipuleerd vanaf een originele foto, waarop Sunak verschijnt met een cafébiertje, terwijl de persoon achter hem een ​​neutrale uitdrukking heeft.

Kunstmatige intelligentie om beelden te creëren, hoe werkt dat?

Het genereren van afbeeldingen met behulp van kunstmatige intelligentie is een zeer geavanceerd proces dat een reeks stappen omvat. Over het algemeen zijn AI-beeldvormingstechnieken gebaseerd op generatieve neurale netwerken (GAN's) of autoregressieve stroommodellen. Deze technieken gebruiken bestaande gegevens om te leren hoe nieuwe afbeeldingen kunnen worden gegenereerd.

Het beeld leidde tot veel kritiek, waarbij vicepremier Oliver Dowden het “onaanvaardbaar” noemde.

Deskundigen waarschuwden dat de strijd een indicatie is van wat er zou kunnen gebeuren tijdens toekomstige verkiezingscampagnes. Hoewel het onduidelijk is of het imago van Sunak werd gemanipuleerd met behulp van een AI-tool, hebben deze programma's het gemakkelijker en sneller gemaakt om overtuigende neptekst, afbeeldingen en audio te produceren.

Hoe identificeer je een afbeelding geproduceerd door AI? Kijk

Er was de fashionista-paus en de arrestatie van Trump, allemaal gegenereerd door kunstmatige intelligentie. Maar weet u hoe u een nep-AI-gegenereerd beeld kunt identificeren? Zie tips:

Wendy Hal, hoogleraar aan de Universiteit van Southampton, alert: “Ik denk dat het gebruik van digitale technologieën, waaronder AI, een bedreiging vormt voor onze democratische processen. Het zou hoog op de agenda moeten staan ​​in het AI-risicoregister, nu er volgend jaar twee grote verkiezingen aankomen – in het VK en de VS.’

Shweta Singh, een docent aan de Universiteit van Warwick, voegt hieraan toe: “We hebben een reeks ethische principes nodig die gebruikers van deze nieuwe technologieën kunnen garanderen en geruststellen dat het nieuws dat ze lezen betrouwbaar is. We moeten hier nu actie op ondernemen, omdat het onmogelijk is om eerlijke en onpartijdige verkiezingen voor te stellen als dergelijke regels niet bestaan. Het is een ernstige zorg en we hebben bijna geen tijd meer.”

Ondertussen hebben de krachtigste AI-bedrijven de noodzaak onderkend van een systeem om door AI gegenereerde inhoud te taggen. Vorige maand zei Amazon-ontwikkelaar, Google, meta, Microsoft e ChatGPT, OpenAI, stemde tijdens een ontmoeting met Joe Biden in met een reeks nieuwe waarborgen, waaronder het gebruik van watermerken voor door AI aangedreven visuele en audio-inhoud.

Amerikaanse AI-giganten verenigen zich om zelfregulering na te streven

Google, Microsoft, Antropisch en OpenAI, vier van de Amerikaanse bedrijven die toonaangevend zijn op het gebied van state-of-the-art kunstmatige intelligentie (AI), hebben deze woensdag (26) de oprichting aangekondigd van een nieuwe professionele organisatie om de risico's die aan deze technologie zijn verbonden te bestrijden

Lees ook:

Kandidaten gebruiken door AI gegenereerde nepafbeeldingen om campagnes te stimuleren; Er zijn zelfs kiezers met drie armen

Dit jaar hebben we geen verkiezingen in Brazilië, maar in andere delen van de wereld zijn de campagnes al in volle gang. Kandidaten mobiliseren zich om populair te worden, en velen van hen proberen dit te doen door viraal te gaan op internet. Het probleem is de methode. Politici begonnen afbeeldingen gemaakt door kunstmatige intelligentie (AI) te gebruiken om misleidende reclamestukken te produceren en zelfs politieke tegenstanders met valse inhoud aan te vallen. Begrijpen.

MIT-onderzoekers ontwikkelen techniek om beelden te beschermen tegen AI-manipulatie

Onderzoekers van het Massachusetts Institute of Technology (MIT) hebben een nieuwe techniek ontwikkeld, PhotoGuard genaamd, die kan worden gebruikt om beelden te beschermen tegen manipulatie door kunstmatige intelligentie (AI)-modellen.

* De tekst van dit artikel is gedeeltelijk gegenereerd door hulpmiddelen voor kunstmatige intelligentie, geavanceerde taalmodellen die helpen bij het voorbereiden, beoordelen, vertalen en samenvatten van teksten. Tekstinvoer is gemaakt door de Curto Nieuws en reacties van AI-tools werden gebruikt om de uiteindelijke inhoud te verbeteren.
Het is belangrijk om te benadrukken dat AI-tools slechts tools zijn, en dat de eindverantwoordelijkheid voor de gepubliceerde inhoud bij de organisatie ligt Curto Nieuws. Door deze hulpmiddelen op een verantwoorde en ethisch verantwoorde manier te gebruiken, is het ons doel om de communicatiemogelijkheden uit te breiden en de toegang tot kwaliteitsinformatie te democratiseren. 🤖