I en erklæring afgivet af virksomheden blev det afsløret, at GPT-4 ikke er fuldstændig pålidelig. Ifølge sin egen OpenAI, GPT-4 lider af ræsonnement problemer, er stadig meget naiv og fejler på vanskelige problemer. Dette forstærker yderligere behovet for, at mennesker håndterer maskinen med opmærksomhed og forsigtighed.
ANNONCER
"Efterhånden som AI-systemer bliver mere udbredte, vil det blive mere og mere kritisk at opnå høje grader af pålidelighed i disse indgreb. Indtil videre er det vigtigt at supplere disse begrænsninger med sikkerhedsteknikker i implementeringstid, såsom overvågning af misbrug,” sagde virksomheden.
GPT-4 er effektiv, men problemerne fortsætter
På trods af at de indrømmede interne systemproblemer, fremhævede virksomheden, at værktøjets ydeevne er effektiv. Ud over OpenAI hyret en række fagfolk til at bruge AI kritisk og sende feedback til systemforbedringer.
Ifølge interne tests ChatGPT-4 er 40% bedre end den sidste version. EN OpenAI sagde, at det reducerede AI'ens tendens til at reagere på indholdsfølsomme kommandoer med 82% sammenlignet med GPT-3.5. I tekniske eller menneskeskadelige tilfælde, såsom medicinske anmodninger, selvskade eller fortrolige emner, forbedrede værktøjet sin ydeevne med 29 %. På denne måde reducerede de chancerne for at bruge Chat på en skadelig måde.
