A OpenAI anunciou a criação de uma equipe para monitorar e testar suas tecnologias em busca de perigos. A equipe de "Preparação", liderada pelo professor de inteligência artificial (IA) do MIT Aleksander Madry, incluirá pesquisadores, cientistas da computação, especialistas em segurança nacional e profissionais de políticas.
O anúncio da OpenAI vem em um momento de crescente preocupação sobre os possíveis perigos da inteligência artificial. Alguns especialistas alertaram que a tecnologia pode se tornar tão avançada que represente um perigo existencial para a humanidade. Outros argumentam que os riscos são exagerados e que a IA pode ser usada para melhorar a sociedade.
A OpenAI adota uma posição intermediária nesse debate. A empresa reconhece que existem riscos sérios a longo prazo inerentes à tecnologia, mas também enfatiza a importância de resolver problemas já existentes.
A equipe de “Preparação” da OpenAI monitorará como e quando a tecnologia da empresa pode ser usada para fins maliciosos, como construir armas ou hackear computadores. A equipe também permitirá que terceiros independentes qualificados de fora da OpenAI testem a tecnologia.
A criação da equipe de “Preparação” da OpenAI é um passo importante para garantir que a IA seja desenvolvida de forma segura e responsável. A empresa está tomando medidas para identificar e mitigar os riscos potenciais da tecnologia, ao mesmo tempo em que continua a trabalhar para desenvolver aplicações benéficas da IA.
Leia também:
Este post foi modificado pela última vez em 19 de dezembro de 2023 15:54
Um dos maiores desafios da medicina moderna está nos chamados "casos sem resposta": pacientes que…
A Argentina deu um passo inédito na corrida global pela inteligência artificial (IA). O governo…
A corrida global pela inteligência artificial (IA) acaba de ganhar uma nova fronteira: o espaço.…
A inteligência artificial (IA) já deixou de ser uma promessa tecnológica distante para se tornar…
A inteligência artificial (IA) acaba de alcançar mais um marco simbólico na educação superior. Um…
A inteligência artificial (IA) está transformando setores inteiros da economia, impulsionando avanços em saúde, educação,…