OpenAI cria equipe para monitorar e testar tecnologias de IA em busca de perigos

A OpenAI anunciou a criação de uma equipe para monitorar e testar suas tecnologias em busca de perigos. A equipe de "Preparação", liderada pelo professor de inteligência artificial (IA) do MIT Aleksander Madry, incluirá pesquisadores, cientistas da computação, especialistas em segurança nacional e profissionais de políticas.

Publicado por

Isabella Caminoto

19 de dezembro de 2023 19:00

O anúncio da OpenAI vem em um momento de crescente preocupação sobre os possíveis perigos da inteligência artificial. Alguns especialistas alertaram que a tecnologia pode se tornar tão avançada que represente um perigo existencial para a humanidade. Outros argumentam que os riscos são exagerados e que a IA pode ser usada para melhorar a sociedade.

A OpenAI adota uma posição intermediária nesse debate. A empresa reconhece que existem riscos sérios a longo prazo inerentes à tecnologia, mas também enfatiza a importância de resolver problemas já existentes.

A equipe de “Preparação” da OpenAI monitorará como e quando a tecnologia da empresa pode ser usada para fins maliciosos, como construir armas ou hackear computadores. A equipe também permitirá que terceiros independentes qualificados de fora da OpenAI testem a tecnologia.

A criação da equipe de “Preparação” da OpenAI é um passo importante para garantir que a IA seja desenvolvida de forma segura e responsável. A empresa está tomando medidas para identificar e mitigar os riscos potenciais da tecnologia, ao mesmo tempo em que continua a trabalhar para desenvolver aplicações benéficas da IA.

Leia também:

OpenAI suspende conta da ByteDance por uso não autorizado de tecnologia; entenda

A OpenAI encerrou temporariamente a conta da empresa chinesa ByteDance, após um relatório apontar que a empresa controladora do TikTok tem empregado a tecnologia da criadora do ChatGPT para a evolução de seu próprio modelo de linguagem grande (LLM).

Este post foi modificado pela última vez em %s = human-readable time difference 15:54

Isabella Caminoto

Advogada e mestranda em Direito Internacional, tenho a democracia e a liberdade como bandeiras irrenunciáveis. Sou apaixonada pelos animais e acredito que o bem-estar do nosso planeta deveria ser o destaque diário da pauta da nossa sociedade.