A OpenAI anunciou a criação de uma equipe para monitorar e testar suas tecnologias em busca de perigos. A equipe de "Preparação", liderada pelo professor de inteligência artificial (IA) do MIT Aleksander Madry, incluirá pesquisadores, cientistas da computação, especialistas em segurança nacional e profissionais de políticas.
O anúncio da OpenAI vem em um momento de crescente preocupação sobre os possíveis perigos da inteligência artificial. Alguns especialistas alertaram que a tecnologia pode se tornar tão avançada que represente um perigo existencial para a humanidade. Outros argumentam que os riscos são exagerados e que a IA pode ser usada para melhorar a sociedade.
A OpenAI adota uma posição intermediária nesse debate. A empresa reconhece que existem riscos sérios a longo prazo inerentes à tecnologia, mas também enfatiza a importância de resolver problemas já existentes.
A equipe de “Preparação” da OpenAI monitorará como e quando a tecnologia da empresa pode ser usada para fins maliciosos, como construir armas ou hackear computadores. A equipe também permitirá que terceiros independentes qualificados de fora da OpenAI testem a tecnologia.
A criação da equipe de “Preparação” da OpenAI é um passo importante para garantir que a IA seja desenvolvida de forma segura e responsável. A empresa está tomando medidas para identificar e mitigar os riscos potenciais da tecnologia, ao mesmo tempo em que continua a trabalhar para desenvolver aplicações benéficas da IA.
Leia também:
Este post foi modificado pela última vez em 19 de dezembro de 2023 15:54
A inteligência artificial (IA) está transformando rapidamente a medicina. Sistemas capazes de analisar exames de…
A Organização Mundial da Saúde reuniu ministros, autoridades governamentais e especialistas de 37 países em…
A inteligência artificial (IA) já começa a transformar hospitais, consultórios e sistemas de saúde, assumindo…
A OpenAI apresentou oficialmente o GPT-5.6, sua mais nova geração de modelos de inteligência artificial…
A OpenAI deu um passo que pode redefinir o equilíbrio de poder no setor de…
Um dos maiores desafios da medicina moderna está nos chamados "casos sem resposta": pacientes que…