MIT:ssä pitämässään puheessa Sam Altman, Toimitusjohtaja OpenAI, puhui avoimesta kirjeestä, jossa vaaditaan taukoa tekoälytekniikan kehityksessä. Altman vahvisti, että yritys ei kouluta GPT-5:tä, jota pidetään GPT-4-kielimallin seuraajana.
Lausunto annettiin viime torstaina (13).
Viime kuussa tuhannet huipputeknologian asiantuntijat, mukaan lukien Elon Musk ja Steve Wozniak allekirjoittivat avoimen kirjeen, jossa vaadittiin kuuden kuukauden taukoa GPT-4:tä edistyneempien tekoälyjärjestelmien kouluttamisessa.
MAINONTA
Kirje korostaa kasvavaa huolta kilpailusta yhä tehokkaamman tekoälyn kehittämiseksi ja sen yhteiskunnalle aiheuttamista riskeistä. Vaikka nykyaikaiset tekoälyjärjestelmät, kuten GPT-4, voivat jo kilpailla ihmisten kanssa yleisissä tehtävissä, kirje varoittaa mahdollisesta tiedon harhautumisesta, työn automatisoinnista ja riskistä menettää ihmissivilisaation hallinnan.
ChatGPT-4: uudessa versiossa on vanhoja ongelmia
Altman oli samaa mieltä joistakin avoimen kirjeen näkökohdista, erityisesti tarpeesta lisätä tietoturvavalmiuksia tekoälykehityksessä. Hän totesi, että OpenAI toteutti laajoja turvatoimia kouluttaessaan GPT-4:ää, mukaan lukien ulkoiset auditoinnit ja turvatarkastukset.
"Teemme muita asioita GPT-4:n lisäksi, joissa mielestäni on kaikenlaisia tietoturvaongelmia, jotka ovat tärkeitä ratkaista ja jotka jätettiin kokonaan pois kirjeestä", Altman sanoi.
SAN FRANCISCO, KALIFORNIA – 03. LOKAKUU: OpenAI Perustaja ja toimitusjohtaja Sam Altman puhuu lavalla TechCrunch Disrupt San Francisco 2019 -tapahtumassa Moscone Convention Centerissä 03. lokakuuta 2019 San Franciscossa, Kaliforniassa. Steve Jennings / Getty Images for TechCrunch / AFP (kuva Steve Jennings / GETTY IMAGES NORTH AMERICA / AFP)
Hän ei kuitenkaan hyväksynyt tekoälyn kehittämistä koskevaa ehdotettua rahallista taukoa ja totesi kirjeen teknisen spesifisyyden puutteen. Altman kiisti myös väitteen, että OpenAI koulutti GPT-5:tä korostaen tarkan tekoälyn turvaarvioinnin ja valvonnan merkitystä.
MAINONTA
Hän selitti edelleen, että tavoitteena OpenAI on rohkaista maailmanlaajuista sitoutumista tekoälyyn, mikä saa yksilöt ja laitokset päivittämään tai mukauttamaan olemassa olevia järjestelmiä halutun tulevaisuuden luomiseksi.
Raportoimme äskettäin täällä Newsverse että OpenAI on ilmoittanut joukosta aloitteita työkalun turvallisuuden parantamiseksi. Yrityksellä onpromevoit suorittaa perusteellisia testejä, pyytää palautetta ulkopuolisilta asiantuntijoilta ja tehdä yhteistyötä hallitusten kanssa tehokkaiden säädösten kehittämiseksi.
