Bilder endret av AI er en "trussel mot demokratiske prosesser", advarer eksperter

Den britiske politikeren Karl Turner delte et bilde på Plattform X, tidligere Twitter, som viser statsministeren drikke en lavkvalitetsøl på en festival, mens en kvinne ser på med et hånende uttrykk. Bildet ble manipulert fra et originalbilde, der Sunak dukker opp med en pubøl, mens personen bak har et nøytralt uttrykk.

Kunstig intelligens for å lage bilder, hvordan fungerer det?

Å generere bilder ved hjelp av kunstig intelligens er en svært sofistikert prosess som involverer en rekke trinn. Generelt er AI-avbildningsteknikker basert på generative nevrale nettverk (GAN) eller autoregressive flytmodeller. Disse teknikkene bruker eksisterende data for å lære å generere nye bilder.

Bildet utløste omfattende kritikk, og visestatsminister Oliver Dowden kalte det "uakseptabelt".

Eksperter advarte om at kampen er en indikasjon på hva som kan skje under fremtidige valgkamper. Selv om det er uklart om Sunaks bilde ble manipulert med et AI-verktøy, har disse programmene gjort det enklere og raskere å produsere overbevisende falsk tekst, bilder og lyd.

Hvordan identifisere et bilde produsert av AI? Se

Det var fashionistaen Pope, Trump ble arrestert, alt generert av kunstig intelligens. Men vet du hvordan du identifiserer et falskt AI-generert bilde? Se tips:

Wendy Hall, professor ved University of Southampton, varsling: «Jeg tror bruken av digitale teknologier, inkludert AI, er en trussel mot våre demokratiske prosesser. Det burde være høyt på agendaen i AI-risikoregisteret med to store valg – i Storbritannia og USA – som nærmer seg neste år.»

Shweta Singh, en lærer ved University of Warwick, legger til: «Vi trenger et sett med etiske prinsipper som kan garantere og forsikre brukere av disse nye teknologiene om at nyhetene de leser er pålitelige. Vi må handle på dette nå, siden det er umulig å forestille seg rettferdige og upartiske valg dersom slike regler ikke eksisterer. Det er en alvorlig bekymring, og vi går tom for tid.»

I mellomtiden har de kraftigste AI-selskapene erkjent behovet for et system for å merke AI-generert innhold. Forrige måned, Amazon-utvikler, Google, Mål, Microsoft e ChatGPT, OpenAI, gikk med på et sett med nye sikkerhetstiltak i et møte med Joe Biden, som inkluderte bruk av vannmerking for AI-drevet visuelt og lydinnhold.

Amerikanske AI-giganter forenes for å søke selvregulering

Google, Microsoft, Antropisk og OpenAI, fire av de amerikanske selskapene som leder den toppmoderne kunstig intelligens (AI)-scenen, kunngjorde denne onsdagen (26) opprettelsen av et nytt profesjonelt organ for å bekjempe risikoen forbundet med denne teknologien

Les også:

Kandidater bruker falske bilder generert av AI for å øke kampanjene; Det er til og med velgere med tre armer

Vi har ikke valg i Brasil i år, men i andre deler av verden er kampanjer allerede i full gang. Kandidater mobiliserer for å bli populære, og mange av dem prøver å gjøre dette ved å gå viralt på internett. Problemet er metoden. Politikere begynte å bruke bilder laget av kunstig intelligens (AI) for å produsere villedende reklameartikler og til og med angripe politiske motstandere med falskt innhold. Forstå.

MIT-forskere utvikler teknikk for å beskytte bilder mot AI-manipulasjon

Forskere ved Massachusetts Institute of Technology (MIT) har utviklet en ny teknikk kalt PhotoGuard som kan brukes til å beskytte bilder mot manipulasjon av kunstig intelligens (AI)-modeller.

* Teksten til denne artikkelen ble delvis generert av verktøy for kunstig intelligens, toppmoderne språkmodeller som hjelper til med utarbeidelse, gjennomgang, oversettelse og oppsummering av tekster. Tekstoppføringer ble opprettet av Curto Nyheter og svar fra AI-verktøy ble brukt til å forbedre det endelige innholdet.
Det er viktig å fremheve at AI-verktøy bare er verktøy, og det endelige ansvaret for det publiserte innholdet ligger hos Curto Nyheter. Ved å bruke disse verktøyene ansvarlig og etisk, er vårt mål å utvide kommunikasjonsmuligheter og demokratisere tilgang til kvalitetsinformasjon. 🤖