En una declaración emitida Por parte de la empresa, quedó expuesto que GPT-4 no es completamente confiable. Según su propio OpenAI, GPT-4 sufre problemas de razonamiento, sigue siendo muy ingenuo y falla en problemas difíciles. Esto refuerza aún más la necesidad de que los humanos manejen la máquina con atención y precaución.
PUBLICIDAD
“A medida que los sistemas de IA se vuelvan más frecuentes, lograr altos grados de confiabilidad en estas intervenciones será cada vez más crítico. Por ahora, es esencial complementar estas limitaciones con técnicas de seguridad en el momento de la implementación, como el monitoreo de abusos”, dijo la compañía.
GPT-4 es eficiente pero los problemas persisten
A pesar de admitir problemas internos en el sistema, la empresa destacó que el desempeño de la herramienta es eficiente. Además OpenAI contrató a una serie de profesionales para usar la IA de manera crítica y enviar comentarios para mejorar el sistema.
Según pruebas internas, el ChatGPT-4 es un 40% mejor que la última versión. A OpenAI dijo que disminuyó la tendencia de la IA a responder a comandos sensibles al contenido en un 82% en comparación con GPT-3.5. En casos técnicos o de daño humano, como solicitudes médicas, autolesiones o temas confidenciales, la herramienta mejoró su rendimiento en un 29%. De esta forma, redujeron las posibilidades de utilizar Chat de forma dañina.
