I en uttalande utfärdat av företaget avslöjades att GPT-4 inte är helt tillförlitlig. Enligt sin egen OpenAI, GPT-4 lider av resonemangsproblem, är fortfarande väldigt naiv och misslyckas med svåra problem. Detta förstärker ytterligare behovet för människor att hantera maskinen med uppmärksamhet och försiktighet.
REKLAM
"I takt med att AI-system blir mer utbredda kommer det att bli allt viktigare att uppnå en hög grad av tillförlitlighet i dessa interventioner. För nu är det viktigt att komplettera dessa begränsningar med säkerhetstekniker under driftsättning, såsom övervakning av missbruk, säger företaget.
GPT-4 är effektivt men problemen kvarstår
Trots att företaget medgav interna systemproblem, betonade företaget att verktygets prestanda är effektiv. Dessutom OpenAI anlitade en serie proffs för att använda AI kritiskt och skicka feedback för systemförbättringar.
Enligt interna tester ChatGPT-4 är 40% bättre än den senaste versionen. A OpenAI sa att det minskade AI:s tendens att svara på innehållskänsliga kommandon med 82 % jämfört med GPT-3.5. I tekniska eller människoskadliga fall, såsom medicinska förfrågningar, självskada eller konfidentiella ämnen, förbättrade verktyget sin prestanda med 29 %. På så sätt minskade de chanserna att använda Chat på ett skadligt sätt.
