A OpenAI anunciou a criação de uma equipe para monitorar e testar suas tecnologias em busca de perigos. A equipe de "Preparação", liderada pelo professor de inteligência artificial (IA) do MIT Aleksander Madry, incluirá pesquisadores, cientistas da computação, especialistas em segurança nacional e profissionais de políticas.
O anúncio da OpenAI vem em um momento de crescente preocupação sobre os possíveis perigos da inteligência artificial. Alguns especialistas alertaram que a tecnologia pode se tornar tão avançada que represente um perigo existencial para a humanidade. Outros argumentam que os riscos são exagerados e que a IA pode ser usada para melhorar a sociedade.
A OpenAI adota uma posição intermediária nesse debate. A empresa reconhece que existem riscos sérios a longo prazo inerentes à tecnologia, mas também enfatiza a importância de resolver problemas já existentes.
A equipe de “Preparação” da OpenAI monitorará como e quando a tecnologia da empresa pode ser usada para fins maliciosos, como construir armas ou hackear computadores. A equipe também permitirá que terceiros independentes qualificados de fora da OpenAI testem a tecnologia.
A criação da equipe de “Preparação” da OpenAI é um passo importante para garantir que a IA seja desenvolvida de forma segura e responsável. A empresa está tomando medidas para identificar e mitigar os riscos potenciais da tecnologia, ao mesmo tempo em que continua a trabalhar para desenvolver aplicações benéficas da IA.
Leia também:
Este post foi modificado pela última vez em 19 de dezembro de 2023 15:54
A agricultura regenerativa, que visa restaurar a saúde do solo e melhorar a biodiversidade, está…
O Google Research desenvolveu recentemente um novo modelo de inteligência artificial (IA) capaz de identificar…
Um novo estudo de pesquisadores de Hong Kong revelou que grandes modelos de linguagem (LLMs),…
A gestão de crises tradicional - baseada em processos manuais e decisões centralizadas - mostra-se…
Empresas de redes sociais coletam, compartilham e processam vastos conjuntos de informações sobre seus usuários,…
A Salesforce, conhecida por revolucionar o setor de software com o modelo de Software como…