Հայտարարությունն արվել է անցած հինգշաբթի (13):
Անցյալ ամիս հազարավոր առաջադեմ տեխնոլոգիաների փորձագետներ, այդ թվում Elon Musk և Սթիվ Վոզնյակը բաց նամակ են ստորագրել՝ կոչ անելով վեցամսյա դադար ուսուցանել GPT-4-ից ավելի առաջադեմ AI համակարգերը:
ՀՐԱՊԱՐԱԿԱԿԱՆՈՒԹՅՈՒՆ
Նամակն ընդգծում է աճող մտահոգությունները աճող հզոր արհեստական ինտելեկտի զարգացման մրցավազքի և այն ռիսկերի վերաբերյալ, որոնք դա սպառնում է հասարակությանը: Թեև ժամանակակից AI համակարգերը, ինչպիսին GPT-4-ն է, արդեն կարող են մրցակցել մարդկանց հետ ընդհանուր առաջադրանքներում, նամակը նախազգուշացնում է հնարավոր տեղեկատվական կողմնակալության, աշխատանքի ավտոմատացման և մարդկային քաղաքակրթության նկատմամբ վերահսկողությունը կորցնելու ռիսկի մասին:
Ալթմանը համաձայնել է բաց նամակի որոշ ասպեկտների հետ, մասնավորապես՝ կապված արհեստական ինտելեկտի զարգացման մեջ անվտանգության հնարավորությունների մեծացման անհրաժեշտության հետ: Նա հայտարարեց, որ OpenAI GPT-4-ի ուսուցման ժամանակ ձեռնարկել է անվտանգության լայնածավալ միջոցներ, ներառյալ արտաքին աուդիտ և անվտանգության ստուգումներ:
«Մենք անում ենք նաև այլ բաներ, բացի GPT-4-ից, որոնք, կարծում եմ, ունեն անվտանգության բոլոր տեսակի խնդիրներ, որոնք կարևոր է լուծել և ամբողջությամբ դուրս են մնացել նամակից», - ասաց Ալթմանը:
Այնուամենայնիվ, նա չհամաձայնեց արհեստական ինտելեկտի զարգացման վերաբերյալ առաջարկվող դրամական դադարի հետ և նշեց նամակում տեխնիկական առանձնահատկությունների բացակայությունը: Ալթմանը նաև հերքեց այն պնդումը, որ OpenAI վարում էր GPT-5-ը՝ ընդգծելով AI-ի անվտանգության ճշգրիտ գնահատման և մոնիտորինգի կարևորությունը:
ՀՐԱՊԱՐԱԿԱԿԱՆՈՒԹՅՈՒՆ
Նա նաև պարզաբանեց, որ նպատակը OpenAI այն է խրախուսել գլոբալ ներգրավվածությունը AI-ի հետ՝ մղելով անհատներին և հաստատություններին արդիականացնել կամ հարմարեցնել գոյություն ունեցող համակարգերը՝ ստեղծելու ցանկալի ապագա:
Մենք վերջերս զեկուցել ենք այստեղ Newsverse que a OpenAI հայտարարել է մի շարք նախաձեռնությունների՝ գործիքն ավելի անվտանգ դարձնելու համար: Ընկերությունն ունիpromeձերն է՝ մանրակրկիտ թեստավորում անցկացնել, հետադարձ կապ փնտրել արտաքին փորձագետներից և համագործակցել կառավարությունների հետ՝ արդյունավետ կանոնակարգեր մշակելու համար:
Տես նաև.