Inteligência Artificial

Funcionários do Google DeepMind e OpenAI alertam sobre riscos da IA

Publicado por
Vinicius Siqueira

Um grupo de atuais e ex-funcionários de empresas de inteligência artificial (IA) – incluindo a startup apoiada pela Microsoft, a OpenAI e a DeepMind do Google – levantaram novas preocupações na terça-feira (4) sobre os riscos apresentados pela tecnologia emergente.

Uma carta aberta de um grupo de 11 atuais e ex-funcionários da OpenAI e um atual e outro ex-funcionário da Google DeepMind disse que os motivos financeiros das empresas de IA dificultam a supervisão eficaz.

“Não acreditamos que estruturas especiais de governança corporativa sejam suficientes para mudar isso”, acrescentou a carta.

Ele ainda alerta para os riscos da IA não regulamentada, que vão desde a disseminação de desinformação até a perda de sistemas de IA independentes e aprofundamento das desigualdades existentes, o que poderia resultar em “extinção humana”.

Pesquisadores encontraram exemplos de geradores de imagens de empresas como OpenAI e Microsoft produzindo fotos com desinformação relacionada às eleições, apesar das políticas contra esse tipo de conteúdo.

As empresas de IA têm “obrigações fracas” de compartilhar informações com os governos sobre as capacidades e limitações de seus sistemas, disse a carta, acrescentando que essas empresas não podem ser confiadas para compartilhar essas informações voluntariamente.

A carta aberta é a mais recente a levantar preocupações de segurança em torno da tecnologia de IA generativa, que pode produzir rapidamente e de forma barata texto, imagens e áudio semelhantes aos humanos.

O grupo instou as empresas de IA a facilitar um processo para que atuais e ex-funcionários levantem preocupações relacionadas a riscos e não imponham acordos de confidencialidade que proíbam críticas.

Separadamente, a empresa liderada por Sam Altman disse na quinta-feira (30) que interrompeu cinco operações secretas de influência que tentaram usar seus modelos de inteligência artificial para “atividades enganosas” em toda a internet.

Leia também:

Este post foi modificado pela última vez em %s = human-readable time difference 15:10

Vinicius Siqueira

Posts recentes

Google se associa à Apptronik para desenvolver robôs humanoides

O Google DeepMind acaba de anunciar uma parceria estratégica com a Apptronik, uma empresa de…

20 de dezembro de 2024

Genesis: Um novo patamar para simulações físicas em IA

Uma equipe de pesquisadores de 20 laboratórios diferentes acaba de apresentar o Genesis, um motor…

20 de dezembro de 2024

Google lança seu próprio modelo de IA de “raciocínio”

O Google acabou de lançar o que está chamando de um novo modelo de inteligência…

19 de dezembro de 2024

GitHub Copilot agora é gratuito

A GitHub, de propriedade da Microsoft, acaba de anunciar um nível gratuito de seu Copilot…

19 de dezembro de 2024

ChatGPT ganha um novo número de telefone; veja

A OpenAI acaba de lançar uma nova maneira surpreendente de acessar o ChatGPT - através…

19 de dezembro de 2024

Google lança novo benchmark para testar a factualidade de LLMs

O Google DeepMind acaba de lançar o FACTS Grounding, um novo benchmark projetado para avaliar…

18 de dezembro de 2024