Într-o declaratie emisa de către companie, a fost expus că GPT-4 nu este complet de încredere. Conform propriilor sale OpenAI, GPT-4 suferă de probleme de raționament, este încă foarte naiv și eșuează în probleme dificile. Acest lucru întărește și mai mult nevoia oamenilor de a manipula mașina cu atenție și prudență.
PUBLICITATE
„Pe măsură ce sistemele AI devin mai răspândite, atingerea unor grade ridicate de fiabilitate în aceste intervenții va deveni din ce în ce mai critică. Deocamdată, este esențial să se completeze aceste limitări cu tehnici de securitate în timpul implementării, cum ar fi monitorizarea abuzurilor”, a spus compania.
GPT-4 este eficient, dar problemele persistă
În ciuda faptului că admite problemele interne ale sistemului, compania a subliniat că performanța instrumentului este eficientă. în plus OpenAI a angajat o serie de profesioniști care să folosească AI în mod critic și să trimită feedback pentru îmbunătățirea sistemului.
Conform testelor interne, cel ChatGPT-4 este cu 40% mai bun decât ultima versiune. A OpenAI a spus că a scăzut tendința AI de a răspunde la comenzile sensibile la conținut cu 82% comparativ cu GPT-3.5. În cazuri tehnice sau dăunătoare pentru oameni, cum ar fi cereri medicale, autovătămare sau subiecte confidențiale, instrumentul și-a îmbunătățit performanța cu 29%. În acest fel, au redus șansele de a folosi Chat într-un mod dăunător.