Em um comunicado emitido pela empresa, foi exposto que o GPT-4 não é totalmente confiável. De acordo com a própria OpenAI, o GPT-4 sofre com problemas de raciocínio, ainda é muito ingênuo e falha em problemas difíceis. Isso reforça ainda mais a necessidade do humano manusear a máquina com atenção e cautela.
PUBLICIDADE
“À medida que os sistemas de IA se tornam mais prevalentes, alcançar altos graus de confiabilidade nessas intervenções se tornará cada vez mais crítico. Por enquanto, é essencial complementar essas limitações com técnicas de segurança em tempo de implantação, como monitoramento de abuso”, informou a empresa.
GPT-4 é eficiente mas problemas persistem
Apesar de admitir problemas internos do sistema, a empresa ressaltou que a atuação da ferramenta é eficiente. Além disso, a OpenAI contratou uma série de profissionais para usar a IA de forma crítica e enviar feedbacks para melhorias do sistema.
De acordo com testes internos, o ChatGPT-4 é 40% melhor do que a última versão. A OpenAI disse que diminuiu a tendência da IA de responder a comandos de conteúdo sensível em 82% em comparação com o GPT-3.5. Em casos técnicos ou nocivos ao ser humano, como solicitações médicas, automutilação ou temas confidenciais, a ferramenta melhorou seu desempenho em 29%. Desse modo, reduziram as chances do uso do Chat de forma nociva.
