Tekoälyn muuttamat kuvat ovat "uhka demokraattisille prosesseille", asiantuntijat varoittavat

Brittipoliitikko Karl Turner jakoi Platform X:llä, entisellä Twitterillä, kuvan, jossa pääministeri juo huonolaatuista olutta festivaaleilla naisen katsellessa sitä pilkkaavalla ilmeellä. Kuvaa on manipuloitu alkuperäisestä valokuvasta, jossa Sunak esiintyy pubioluen kanssa, kun taas hänen takanaan olevalla henkilöllä on neutraali ilme.

Tekoäly kuvien luomiseen, miten se toimii?

Kuvien luominen tekoälyn avulla on erittäin pitkälle kehitetty prosessi, joka sisältää useita vaiheita. Yleensä tekoälykuvaustekniikat perustuvat generatiivisiin hermoverkkoihin (GAN) tai autoregressiivisiin virtausmalleihin. Nämä tekniikat käyttävät olemassa olevaa dataa uusien kuvien luomiseen.

Kuva herätti laajaa kritiikkiä, ja varapääministeri Oliver Dowden kutsui sitä "kelvottomana".

Asiantuntijat varoittivat, että taistelu on osoitus siitä, mitä voi tapahtua tulevien vaalikampanjoiden aikana. Vaikka on epäselvää, manipuloitiinko Sunakin kuvaa tekoälytyökalulla, nämä ohjelmat ovat helpottaneet ja nopeuttaneet vakuuttavan väärennetyn tekstin, kuvien ja äänen tuottamista.

Kuinka tunnistaa tekoälyn tuottama kuva? Katso

Siellä oli fashionista paavi, Trump pidätettiin, kaikki tekoälyn tuottamia. Mutta tiedätkö kuinka tunnistaa tekoälyn luoma kuva? Katso vinkit:

Wendy Hall, professori Southamptonin yliopistosta, hälytys: "Mielestäni digitaalisten teknologioiden, mukaan lukien tekoäly, käyttö on uhka demokraattisille prosesseillemme. Sen pitäisi olla korkealla asialistalla tekoälyriskirekisterissä, kun ensi vuonna lähestyvät kaksi suurta vaalit – Isossa-Britanniassa ja Yhdysvalloissa.”

Shweta Singh, kouluttaja Warwickin yliopistosta, lisää: "Tarvitsemme joukon eettisiä periaatteita, jotka voivat taata ja vakuuttaa näiden uusien teknologioiden käyttäjille, että heidän lukemansa uutiset ovat luotettavia. Meidän on toimittava tämän asian suhteen nyt, koska on mahdotonta kuvitella oikeudenmukaisia ​​ja puolueettomia vaaleja ilman tällaisia ​​säännöksiä. Se on vakava huolenaihe, ja aikamme on loppumassa."

Samaan aikaan tehokkaimmat tekoälyyritykset ovat tunnustaneet, että tarvitaan järjestelmä, joka merkitsee tekoälyn luomaa sisältöä. Viime kuussa Amazonin kehittäjä, Google, meta, Microsoft e ChatGPT, OpenAI, sopi joukosta uusia suojatoimia kokouksessaan Joe Bidenin kanssa, joihin sisältyi vesileiman käyttö tekoälyllä toimivassa visuaalisessa ja äänisisällössä.

Amerikkalaiset tekoälyjättiläiset yhdistyvät etsiäkseen itsesääntelyä

Google, Microsoft, Antrooppinen ja OpenAI, neljä huipputeknologian tekoälyä (AI) johtavaa amerikkalaista yritystä, ilmoitti keskiviikkona (26) uuden ammatillisen elimen perustamisesta tähän teknologiaan liittyvien riskien torjumiseksi.

Lue myös:

Ehdokkaat käyttävät tekoälyn luomia väärennettyjä kuvia kampanjoiden tehostamiseen. On jopa äänestäjiä kolmella kädellä

Meillä ei Brasiliassa ole tänä vuonna vaaleja, mutta muualla maailmassa kampanjat ovat jo täydessä vauhdissa. Ehdokkaat ovat mobilisoimassa tullakseen suosituiksi, ja monet heistä yrittävät tehdä tämän leviämällä Internetiin. Ongelma on menetelmä. Poliitikot alkoivat käyttää tekoälyn (AI) luomia kuvia tuottaakseen harhaanjohtavia mainoksia ja jopa hyökätäkseen poliittisia vastustajia vastaan ​​väärällä sisällöllä. Ymmärtää.

MIT-tutkijat kehittävät tekniikkaa kuvien suojaamiseksi tekoälyn manipuloinnilta

Massachusetts Institute of Technologyn (MIT) tutkijat ovat kehittäneet uuden PhotoGuard-nimisen tekniikan, jota voidaan käyttää suojaamaan kuvia tekoälymallien (AI) manipuloinnilta.

* Tämän artikkelin teksti on osittain luotu tekoälytyökaluilla, uusimmilla kielimalleilla, jotka auttavat tekstien valmistelussa, tarkistamisessa, kääntämisessä ja yhteenvedossa. Tekstimerkinnät loi Curto Tekoälytyökalujen uutisia ja vastauksia käytettiin parantamaan lopullista sisältöä.
On tärkeää korostaa, että tekoälytyökalut ovat vain työkaluja, ja lopullinen vastuu julkaistusta sisällöstä on Curto Uutiset. Käyttämällä näitä työkaluja vastuullisesti ja eettisesti tavoitteenamme on laajentaa viestintämahdollisuuksia ja demokratisoida laadukkaan tiedon saatavuutta. 🤖