Током говора на МИТ-у, Sam Altman, извршни директор OpenAI, говорио је о отвореном писму које позива на паузу у напретку АИ технологије. Алтман је потврдио да компанија не обучава ГПТ-5, који се сматра наследником језичког модела ГПТ-4.
Саопштење је дато прошлог четвртка (13).
Прошлог месеца, хиљаде стручњака за врхунску технологију, укључујући Elon Musk и Стеве Возниак, потписали су отворено писмо позивајући на шестомесечну паузу у обуци АИ система напреднијих од ГПТ-4.
ОГЛАШАВАЊЕ
У писму се истиче растућа забринутост у вези са трком за развојем све снажније вештачке интелигенције и ризицима које то представља за друштво. Док савремени системи вештачке интелигенције попут ГПТ-4 већ могу да се такмиче са људима у општим задацима, писмо упозорава на могућу пристрасност информација, аутоматизацију послова и ризик од губитка контроле над људском цивилизацијом.
ChatGPT-4: нова верзија има старе проблеме
Алтман се сложио са неким аспектима отвореног писма, посебно у вези са потребом за повећањем безбедносних могућности у развоју вештачке интелигенције. Он је навео да је OpenAI предузео је опсежне мере безбедности приликом обуке ГПТ-4, укључујући екстерне ревизије и безбедносне провере.
„Ми радимо и друге ствари осим ГПТ-4 за које мислим да имају све врсте безбедносних питања која су важна за решавање и која су потпуно изостављена из писма“, рекао је Алтман.
САН ФРАНЦИСКО, КАЛИФОРНИЈА – 03. ОКТОБАР: OpenAI Суоснивач и извршни директор Sam Altman говори на сцени током ТецхЦрунцх Дисрупт Сан Францисцо 2019 у Мосцоне Цонвентион Центер 03. октобра 2019. у Сан Франциску, Калифорнија. Стеве Јеннингс/Гетти Имагес за ТецхЦрунцх/АФП (Фотографија Стеве Јеннингс/ГЕТТИ ИМАГЕС НОРТХ АМЕРИЦА/АФП)
Међутим, он се није сложио са предложеном монетарном паузом за развој вештачке интелигенције и приметио је недостатак техничке специфичности у писму. Алтман је такође одбацио тврдњу да је OpenAI је обучавао ГПТ-5, наглашавајући важност тачне процене и праћења безбедности АИ.
ОГЛАШАВАЊЕ
Даље је објаснио да је циљ OpenAI је подстицање глобалног ангажовања са вештачком интелигенцијом, подстичући појединце и институције да надограде или прилагоде постојеће системе како би створили жељену будућност.
Недавно смо извештавали овде о Невсверсо тхат тхе OpenAI је најавио низ иницијатива како би алат учинио безбеднијим. Компанија имаpromeваш да спроведете темељно тестирање, тражите повратне информације од спољних стручњака и сарађујете са владама на развоју ефикасних прописа.
