V vydáno prohlášení ze strany společnosti vyšlo najevo, že GPT-4 není zcela spolehlivý. Podle svého OpenAI, GPT-4 trpí problémy s uvažováním, je stále velmi naivní a selhává v obtížných problémech. To dále posiluje potřebu, aby lidé zacházeli se strojem pozorně a opatrně.
PUBLICITA
„S tím, jak se systémy umělé inteligence stávají stále rozšířenějšími, bude dosažení vysokého stupně spolehlivosti při těchto zásazích stále důležitější. Prozatím je nezbytné doplnit tato omezení bezpečnostními technikami v době nasazení, jako je monitorování zneužití,“ uvedla společnost.
GPT-4 je efektivní, ale problémy přetrvávají
Navzdory přiznání interních systémových problémů společnost zdůraznila, že výkon nástroje je efektivní. Navíc OpenAI najali řadu profesionálů, aby kriticky používali umělou inteligenci a posílali zpětnou vazbu pro vylepšení systému.
Podle interních testů je ChatGPT-4 je o 40 % lepší než poslední verze. A OpenAI řekl, že snížil tendenci AI reagovat na příkazy citlivé na obsah o 82 % ve srovnání s GPT-3.5. V technických nebo lidsky škodlivých případech, jako jsou lékařské žádosti, sebepoškozování nebo důvěrná témata, nástroj zlepšil svůj výkon o 29 %. Tímto způsobem snížili šance na používání Chatu škodlivým způsobem.
