Durante un discurso en el MIT, Sam Altman, CEO de OpenAI, habló sobre la carta abierta que pide una pausa en el avance de la tecnología de IA. Altman confirmó que la empresa no está entrenando GPT-5, considerado el sucesor del modelo de lenguaje GPT-4.
La declaración fue hecha el pasado jueves (13).
El mes pasado, miles de expertos en tecnología de vanguardia, incluidos Elon Musk y Steve Wozniak, firmaron una carta abierta pidiendo una pausa de seis meses en el entrenamiento de sistemas de IA más avanzados que GPT-4.
PUBLICIDAD
La carta destaca las crecientes preocupaciones sobre la carrera por desarrollar una IA cada vez más poderosa y los riesgos que esto plantea para la sociedad. Si bien los sistemas de inteligencia artificial contemporáneos como GPT-4 ya pueden competir con los humanos en tareas generales, la carta advierte sobre posibles sesgos de información, automatización del trabajo y el riesgo de perder el control sobre la civilización humana.
ChatGPT-4: la nueva versión tiene viejos problemas
Altman estuvo de acuerdo con algunos aspectos de la carta abierta, específicamente con respecto a la necesidad de aumentar las capacidades de seguridad en el desarrollo de la IA. Afirmó que el OpenAI tomó amplias medidas de seguridad al entrenar a GPT-4, incluidas auditorías externas y controles de seguridad.
"Estamos haciendo otras cosas además de GPT-4 que creo que tienen todo tipo de problemas de seguridad que es importante abordar y que quedaron completamente fuera de la carta", dijo Altman.
SAN FRANCISCO, CALIFORNIA – 03 DE OCTUBRE: OpenAI Co-Founder & CEO Sam Altman habla en el escenario durante TechCrunch Disrupt San Francisco 2019 en el Centro de Convenciones Moscone el 03 de octubre de 2019 en San Francisco, California. Steve Jennings/Getty Images para TechCrunch/AFP (Foto de Steve Jennings / GETTY IMAGES NORTEAMÉRICA / AFP)
Sin embargo, no estuvo de acuerdo con la pausa monetaria propuesta para el desarrollo de la IA y señaló la falta de especificidad técnica en la carta. Altman también refutó la afirmación de que el OpenAI estaba entrenando a GPT-5, enfatizando la importancia de una evaluación y monitoreo precisos de la seguridad de la IA.
PUBLICIDAD
Explicó además que el objetivo de OpenAI es fomentar el compromiso global con la IA, impulsando a personas e instituciones a actualizar o adaptar los sistemas existentes para crear el futuro deseado.
Recientemente informamos aquí sobre Noticiasverso en este OpenAI ha anunciado una serie de iniciativas para hacer la herramienta más segura. La compañía tienepromeEs suyo para realizar pruebas exhaustivas, buscar comentarios de expertos externos y colaborar con los gobiernos para desarrollar regulaciones efectivas.
