Lors d'un discours au MIT, Sam AltmanPDG de OpenAI, a parlé de la lettre ouverte appelant à une pause dans les progrès de la technologie de l'IA. Altman a confirmé que l'entreprise ne formait pas GPT-5, considéré comme le successeur du modèle linguistique GPT-4.
La déclaration a été faite jeudi dernier (13).
Le mois dernier, des milliers d'experts en technologies de pointe, dont Elon Musk et Steve Wozniak, ont signé une lettre ouverte appelant à une pause de six mois dans la formation des systèmes d'IA plus avancés que GPT-4.
PUBLICITÉ
La lettre met en lumière les inquiétudes croissantes concernant la course au développement d’une IA de plus en plus puissante et les risques que cela fait peser sur la société. Alors que les systèmes d’IA contemporains comme GPT-4 peuvent déjà rivaliser avec les humains dans des tâches générales, la lettre met en garde contre d’éventuels biais d’information, l’automatisation des tâches et le risque de perte de contrôle sur la civilisation humaine.
ChatGPT-4 : la nouvelle version présente d'anciens problèmes
Altman était d'accord avec certains aspects de la lettre ouverte, notamment en ce qui concerne la nécessité d'augmenter les capacités de sécurité dans le développement de l'IA. Il a déclaré que le OpenAI a pris des mesures de sécurité étendues lors de la formation GPT-4, y compris des audits externes et des contrôles de sécurité.
"Nous faisons d'autres choses en plus de GPT-4 qui, je pense, posent toutes sortes de problèmes de sécurité qu'il est important de résoudre et qui ont été complètement exclus de la lettre", a déclaré Altman.
SAN FRANCISCO, CALIFORNIE – 03 OCTOBRE : OpenAI Cofondateur et PDG Sam Altman s'exprime sur scène lors de TechCrunch Disrupt San Francisco 2019 au Moscone Convention Center le 03 octobre 2019 à San Francisco, Californie. Steve Jennings/Getty Images pour TechCrunch/AFP (Photo de Steve Jennings / GETTY IMAGES NORTH AMERICA / AFP)
Cependant, il n’est pas d’accord avec la pause monétaire proposée sur le développement de l’IA et a souligné le manque de spécificité technique dans la lettre. Altman a également réfuté l'affirmation selon laquelle le OpenAI formait GPT-5, soulignant l’importance d’une évaluation et d’une surveillance précises de la sécurité de l’IA.
PUBLICITÉ
Il a en outre expliqué que l'objectif de OpenAI est d’encourager l’engagement mondial envers l’IA, en poussant les individus et les institutions à mettre à niveau ou à adapter les systèmes existants pour créer l’avenir souhaité.
Nous avons récemment rapporté ici Vers l'actualité que le OpenAI a annoncé une série d'initiatives pour rendre l'outil plus sûr. L'entreprise apromeà vous d’effectuer des tests approfondis, de solliciter les commentaires d’experts externes et de collaborer avec les gouvernements pour élaborer des réglementations efficaces.
