Sa isang talumpati sa MIT, Sam Altman, CEO ng OpenAI, ay nagsalita tungkol sa bukas na liham na humihiling ng paghinto sa pagsulong ng teknolohiya ng AI. Kinumpirma ni Altman na hindi sinasanay ng kumpanya ang GPT-5, na itinuturing na kahalili sa modelo ng wika ng GPT-4.
Ang pahayag ay ginawa noong Huwebes (13).
Noong nakaraang buwan, libu-libong mga eksperto sa teknolohiya, kabilang ang Elon Musk at Steve Wozniak, ay pumirma ng isang bukas na liham na humihiling ng anim na buwang paghinto sa pagsasanay sa mga AI system na mas advanced kaysa sa GPT-4.
ADVERTISING
Itinatampok ng liham ang lumalaking alalahanin tungkol sa lahi upang bumuo ng lalong malakas na AI at ang mga panganib na idinudulot nito sa lipunan. Bagama't ang mga kontemporaryong AI system tulad ng GPT-4 ay maaari nang makipagkumpitensya sa mga tao sa mga pangkalahatang gawain, ang liham ay nagbabala sa posibleng pagkiling ng impormasyon, pag-aautomat ng trabaho at ang panganib na mawalan ng kontrol sa sibilisasyon ng tao.
ChatGPT-4: ang bagong bersyon ay may mga lumang problema
Sumang-ayon si Altman sa ilang aspeto ng bukas na liham, partikular na tungkol sa pangangailangang pataasin ang mga kakayahan sa seguridad sa pagbuo ng AI. Sinabi niya na ang OpenAI gumawa ng malawak na mga hakbang sa seguridad kapag nagsasanay ng GPT-4, kabilang ang mga panlabas na pag-audit at mga pagsusuri sa seguridad.
"Gumagawa kami ng iba pang mga bagay bukod sa GPT-4 na sa tingin ko ay may lahat ng uri ng mga isyu sa seguridad na mahalagang tugunan at ganap na hindi nabanggit sa sulat," sabi ni Altman.
SAN FRANCISCO, CALIFORNIA – OCTOBER 03: OpenAI Co-Founder at CEO Sam Altman nagsasalita sa entablado sa panahon ng TechCrunch Disrupt San Francisco 2019 sa Moscone Convention Center noong Oktubre 03, 2019 sa San Francisco, California. Steve Jennings/Getty Images para sa TechCrunch/AFP (Larawan ni Steve Jennings / GETTY IMAGES NORTH AMERICA / AFP)
Gayunpaman, hindi siya sumang-ayon sa iminungkahing monetary pause sa pagpapaunlad ng AI at nabanggit ang kakulangan ng teknikal na pagtitiyak sa sulat. Pinabulaanan din ni Altman ang pag-aangkin na ang OpenAI ay nagsasanay ng GPT-5, na nagbibigay-diin sa kahalagahan ng tumpak na pagtatasa at pagsubaybay sa seguridad ng AI.
ADVERTISING
Ipinaliwanag pa niya na ang layunin ng OpenAI ay upang hikayatin ang pandaigdigang pakikipag-ugnayan sa AI, na nagtutulak sa mga indibidwal at institusyon na mag-upgrade o iakma ang mga umiiral na sistema upang lumikha ng ninanais na hinaharap.
Nag-ulat kami kamakailan dito sa Newsverse que a OpenAI ay nag-anunsyo ng isang serye ng mga inisyatiba upang gawing mas ligtas ang tool. Ang kumpanya ay maypromesa iyo na magsagawa ng masusing pagsusuri, humingi ng feedback mula sa mga panlabas na eksperto, at makipagtulungan sa mga pamahalaan upang bumuo ng mga epektibong regulasyon.
