Tekoälyn muuttamat kuvat ovat "uhka demokraattisille prosesseille", asiantuntijat varoittavat

Asiantuntijat varoittavat, että tekoälyn (AI) tuottamien tai sen tehostamien kuvien käyttöön politiikassa on ryhdyttävä toimiin. Tuorein tapaus, joka herätti jälleen keskustelua, oli manipuloitu kuva Britannian pääministeri Rishi Sunakista tarjoilemassa olutta.

Lähettäjä

Isabella Caminoto

3. elokuuta 2023 14

Brittipoliitikko Karl Turner jakoi Platform X:llä, entisellä Twitterillä, kuvan, jossa pääministeri juo huonolaatuista olutta festivaaleilla naisen katsellessa sitä pilkkaavalla ilmeellä. Kuvaa on manipuloitu alkuperäisestä valokuvasta, jossa Sunak esiintyy pubioluen kanssa, kun taas hänen takanaan olevalla henkilöllä on neutraali ilme.

Tekoäly kuvien luomiseen, miten se toimii?

Kuvien luominen tekoälyn avulla on erittäin pitkälle kehitetty prosessi, joka sisältää useita vaiheita. Yleensä tekoälykuvaustekniikat perustuvat generatiivisiin hermoverkkoihin (GAN) tai autoregressiivisiin virtausmalleihin. Nämä tekniikat käyttävät olemassa olevaa dataa uusien kuvien luomiseen.

Kuva herätti laajaa kritiikkiä, ja varapääministeri Oliver Dowden kutsui sitä "kelvottomana".

Asiantuntijat varoittivat, että taistelu on osoitus siitä, mitä voi tapahtua tulevien vaalikampanjoiden aikana. Vaikka on epäselvää, manipuloitiinko Sunakin kuvaa tekoälytyökalulla, nämä ohjelmat ovat helpottaneet ja nopeuttaneet vakuuttavan väärennetyn tekstin, kuvien ja äänen tuottamista.

Kuinka tunnistaa tekoälyn tuottama kuva? Katso

Siellä oli fashionista paavi, Trump pidätettiin, kaikki tekoälyn tuottamia. Mutta tiedätkö kuinka tunnistaa tekoälyn luoma kuva? Katso vinkit:

Wendy Hall, professori Southamptonin yliopistosta, hälytys: "Mielestäni digitaalisten teknologioiden, mukaan lukien tekoäly, käyttö on uhka demokraattisille prosesseillemme. Sen pitäisi olla korkealla asialistalla tekoälyriskirekisterissä, kun ensi vuonna lähestyvät kaksi suurta vaalit – Isossa-Britanniassa ja Yhdysvalloissa.”

Shweta Singh, kouluttaja Warwickin yliopistosta, lisää: "Tarvitsemme joukon eettisiä periaatteita, jotka voivat taata ja vakuuttaa näiden uusien teknologioiden käyttäjille, että heidän lukemansa uutiset ovat luotettavia. Meidän on toimittava tämän asian suhteen nyt, koska on mahdotonta kuvitella oikeudenmukaisia ja puolueettomia vaaleja ilman tällaisia säännöksiä. Se on vakava huolenaihe, ja aikamme on loppumassa."

Samaan aikaan tehokkaimmat tekoälyyritykset ovat tunnustaneet, että tarvitaan järjestelmä, joka merkitsee tekoälyn luomaa sisältöä. Viime kuussa Amazonin kehittäjä, Google, meta, Microsoft e ChatGPT, OpenAI, sopi joukosta uusia suojatoimia kokouksessaan Joe Bidenin kanssa, joihin sisältyi vesileiman käyttö tekoälyllä toimivassa visuaalisessa ja äänisisällössä.

Amerikkalaiset tekoälyjättiläiset yhdistyvät etsiäkseen itsesääntelyä

Google, Microsoft, Antrooppinen ja OpenAI, neljä huipputeknologian tekoälyä (AI) johtavaa amerikkalaista yritystä, ilmoitti keskiviikkona (26) uuden ammatillisen elimen perustamisesta tähän teknologiaan liittyvien riskien torjumiseksi.

Lue myös:

Ehdokkaat käyttävät tekoälyn luomia väärennettyjä kuvia kampanjoiden tehostamiseen. On jopa äänestäjiä kolmella kädellä

Meillä ei Brasiliassa ole tänä vuonna vaaleja, mutta muualla maailmassa kampanjat ovat jo täydessä vauhdissa. Ehdokkaat ovat mobilisoimassa tullakseen suosituiksi, ja monet heistä yrittävät tehdä tämän leviämällä Internetiin. Ongelma on menetelmä. Poliitikot alkoivat käyttää tekoälyn (AI) luomia kuvia tuottaakseen harhaanjohtavia mainoksia ja jopa hyökätäkseen poliittisia vastustajia vastaan väärällä sisällöllä. Ymmärtää.

MIT-tutkijat kehittävät tekniikkaa kuvien suojaamiseksi tekoälyn manipuloinnilta

Massachusetts Institute of Technologyn (MIT) tutkijat ovat kehittäneet uuden PhotoGuard-nimisen tekniikan, jota voidaan käyttää suojaamaan kuvia tekoälymallien (AI) manipuloinnilta.

Tätä viestiä muokattu viimeksi 3. elokuuta 2023 klo 17

Isabella Caminoto

Lakimies ja kansainvälisen oikeuden maisteriopiskelija, minulla on demokratia ja vapaus kiistattomina lippuina. Suhtaudun intohimoisesti eläimiin ja uskon, että planeettamme hyvinvoinnin tulisi olla yhteiskuntamme asialistan päivittäinen kohokohta.