Inteligência Artificial

Funcionários do Google DeepMind e OpenAI alertam sobre riscos da IA

Publicado por
Vinicius Siqueira

Um grupo de atuais e ex-funcionários de empresas de inteligência artificial (IA) – incluindo a startup apoiada pela Microsoft, a OpenAI e a DeepMind do Google – levantaram novas preocupações na terça-feira (4) sobre os riscos apresentados pela tecnologia emergente.

Uma carta aberta de um grupo de 11 atuais e ex-funcionários da OpenAI e um atual e outro ex-funcionário da Google DeepMind disse que os motivos financeiros das empresas de IA dificultam a supervisão eficaz.

“Não acreditamos que estruturas especiais de governança corporativa sejam suficientes para mudar isso”, acrescentou a carta.

Ele ainda alerta para os riscos da IA não regulamentada, que vão desde a disseminação de desinformação até a perda de sistemas de IA independentes e aprofundamento das desigualdades existentes, o que poderia resultar em “extinção humana”.

Pesquisadores encontraram exemplos de geradores de imagens de empresas como OpenAI e Microsoft produzindo fotos com desinformação relacionada às eleições, apesar das políticas contra esse tipo de conteúdo.

As empresas de IA têm “obrigações fracas” de compartilhar informações com os governos sobre as capacidades e limitações de seus sistemas, disse a carta, acrescentando que essas empresas não podem ser confiadas para compartilhar essas informações voluntariamente.

A carta aberta é a mais recente a levantar preocupações de segurança em torno da tecnologia de IA generativa, que pode produzir rapidamente e de forma barata texto, imagens e áudio semelhantes aos humanos.

O grupo instou as empresas de IA a facilitar um processo para que atuais e ex-funcionários levantem preocupações relacionadas a riscos e não imponham acordos de confidencialidade que proíbam críticas.

Separadamente, a empresa liderada por Sam Altman disse na quinta-feira (30) que interrompeu cinco operações secretas de influência que tentaram usar seus modelos de inteligência artificial para “atividades enganosas” em toda a internet.

Leia também:

Este post foi modificado pela última vez em %s = human-readable time difference 15:10

Vinicius Siqueira

Posts recentes

DeepMind dá um salto gigante na computação quântica com o AlphaQubit

O Google DeepMind acaba de apresentar o AlphaQubit, um sistema de inteligência artificial (IA) que…

21 de novembro de 2024

ChatGPT está mais perto de lançar sua IA visual

Um código recém-descoberto na última versão beta do ChatGPT sugere que a OpenAI pode estar…

21 de novembro de 2024

DeepSeek revela poderosa IA de raciocínio; veja

A empresa chinesa de pesquisa em inteligência artificial (IA), DeepSeek, acaba de lançar o R1-Lite-Preview,…

21 de novembro de 2024

OpenAI lança curso gratuito de IA para professores

A OpenAI e a parceira sem fins lucrativos Common Sense Media lançaram um curso de…

20 de novembro de 2024

Robôs da Figure transformam produção da BMW; saiba como

Brett Adcock, CEO da Figure, postou uma atualização sobre os robôs humanoides da empresa trabalhando…

20 de novembro de 2024

Microsoft revela agentes de IA especializados e ferramentas de automação

A Microsoft acaba de apresentar uma suíte de novos agentes de inteligência artificial (IA) especializados…

20 de novembro de 2024