Créditos de Imagem: Kenneth Cheung/iStockphoto
Um grupo de atuais e ex-funcionários de empresas de inteligência artificial (IA) – incluindo a startup apoiada pela Microsoft, a OpenAI e a DeepMind do Google – levantaram novas preocupações na terça-feira (4) sobre os riscos apresentados pela tecnologia emergente.
Uma carta aberta de um grupo de 11 atuais e ex-funcionários da OpenAI e um atual e outro ex-funcionário da Google DeepMind disse que os motivos financeiros das empresas de IA dificultam a supervisão eficaz.
“Não acreditamos que estruturas especiais de governança corporativa sejam suficientes para mudar isso”, acrescentou a carta.
Ele ainda alerta para os riscos da IA não regulamentada, que vão desde a disseminação de desinformação até a perda de sistemas de IA independentes e aprofundamento das desigualdades existentes, o que poderia resultar em “extinção humana”.
Pesquisadores encontraram exemplos de geradores de imagens de empresas como OpenAI e Microsoft produzindo fotos com desinformação relacionada às eleições, apesar das políticas contra esse tipo de conteúdo.
As empresas de IA têm “obrigações fracas” de compartilhar informações com os governos sobre as capacidades e limitações de seus sistemas, disse a carta, acrescentando que essas empresas não podem ser confiadas para compartilhar essas informações voluntariamente.
A carta aberta é a mais recente a levantar preocupações de segurança em torno da tecnologia de IA generativa, que pode produzir rapidamente e de forma barata texto, imagens e áudio semelhantes aos humanos.
O grupo instou as empresas de IA a facilitar um processo para que atuais e ex-funcionários levantem preocupações relacionadas a riscos e não imponham acordos de confidencialidade que proíbam críticas.
Separadamente, a empresa liderada por Sam Altman disse na quinta-feira (30) que interrompeu cinco operações secretas de influência que tentaram usar seus modelos de inteligência artificial para “atividades enganosas” em toda a internet.
Leia também:
Este post foi modificado pela última vez em 4 de junho de 2024 15:10
A OpenAI deu um passo que pode redefinir o equilíbrio de poder no setor de…
Um dos maiores desafios da medicina moderna está nos chamados "casos sem resposta": pacientes que…
A Argentina deu um passo inédito na corrida global pela inteligência artificial (IA). O governo…
A corrida global pela inteligência artificial (IA) acaba de ganhar uma nova fronteira: o espaço.…
A inteligência artificial (IA) já deixou de ser uma promessa tecnológica distante para se tornar…
A inteligência artificial (IA) acaba de alcançar mais um marco simbólico na educação superior. Um…