Az MIT-ben tartott beszéd során Sam Altman, vezérigazgató da OpenAI, beszélt a nyílt levélről, amely az AI technológia fejlődésének szüneteltetését kéri. Altman megerősítette, hogy a cég nem oktatja a GPT-5-öt, amelyet a GPT-4 nyelvi modell utódjának tekintenek.
A nyilatkozat múlt csütörtökön (13) hangzott el.
A múlt hónapban több ezer élvonalbeli technológiai szakértő, köztük Elon Musk és Steve Wozniak nyílt levelet írt alá, amelyben hat hónapos szünetet kért a GPT-4-nél fejlettebb mesterséges intelligencia rendszerek képzésében.
HIRDETŐ
A levél rávilágít az egyre nagyobb aggodalmakra az egyre erősebb mesterségesintelligencia kifejlesztéséért folytatott versenyfutással és az ez által a társadalom számára jelentett kockázatokkal kapcsolatban. Míg a kortárs mesterséges intelligencia rendszerek, például a GPT-4 már felveszik a versenyt az emberekkel az általános feladatokban, a levél az információs torzításra, a munka automatizálására és az emberi civilizáció feletti irányítás elvesztésének veszélyére figyelmeztet.
ChatGPT-4: az új verzióban régi problémák vannak
Altman egyetértett a nyílt levél néhány szempontjával, különös tekintettel a biztonsági képességek növelésének szükségességére az AI fejlesztésében. Kijelentette, hogy a OpenAI kiterjedt biztonsági intézkedéseket tett a GPT-4 képzése során, beleértve a külső auditokat és a biztonsági ellenőrzéseket.
"A GPT-4-en kívül más dolgokat is csinálunk, amelyekről úgy gondolom, hogy mindenféle biztonsági problémával kell foglalkozni, és amelyek teljesen kimaradtak a levélből" - mondta Altman.
SAN FRANCISCO, KALIFORNIA – OKTÓBER 03.: OpenAI Társalapító és vezérigazgató Sam Altman felszólal a színpadon a TechCrunch Disrupt San Francisco 2019 rendezvényen a Moscone Kongresszusi Központban 03. október 2019-án a kaliforniai San Franciscóban. Steve Jennings/Getty Images for TechCrunch/AFP (Fotó: Steve Jennings / GETTY IMAGES NORTH AMERICA / AFP)
Nem értett azonban egyet a mesterséges intelligencia fejlesztésének javasolt pénzbeli szüneteltetésével, és megjegyezte, hogy a levélből hiányzik a technikai specifikum. Altman azt az állítást is cáfolta, hogy a OpenAI A GPT-5 képzése volt, hangsúlyozva a pontos mesterségesintelligencia-biztonsági értékelés és monitorozás fontosságát.
HIRDETŐ
Kifejtette továbbá, hogy a cél a OpenAI célja a mesterséges intelligencia iránti globális elkötelezettség ösztönzése, ami arra készteti az egyéneket és intézményeket, hogy frissítsék vagy módosítsák a meglévő rendszereket a kívánt jövő megteremtése érdekében.
Nemrég itt számoltunk be róla Hírvers hogy a OpenAI egy sor kezdeményezést jelentett be az eszköz biztonságosabbá tétele érdekében. A cég rendelkezikpromeaz ön feladata, hogy végezzen alapos tesztelést, kérjen visszajelzést külső szakértőktől, és működjön együtt a kormányokkal a hatékony szabályozás kidolgozása érdekében.
