Um grupo de atuais e ex-funcionários de empresas de inteligência artificial (IA) – incluindo a startup apoiada pela Microsoft, a OpenAI e a DeepMind do Google – levantaram novas preocupações na terça-feira (4) sobre os riscos apresentados pela tecnologia emergente.
Uma carta aberta de um grupo de 11 atuais e ex-funcionários da OpenAI e um atual e outro ex-funcionário da Google DeepMind disse que os motivos financeiros das empresas de IA dificultam a supervisão eficaz.
“Não acreditamos que estruturas especiais de governança corporativa sejam suficientes para mudar isso”, acrescentou a carta.
Ele ainda alerta para os riscos da IA não regulamentada, que vão desde a disseminação de desinformação até a perda de sistemas de IA independentes e aprofundamento das desigualdades existentes, o que poderia resultar em “extinção humana”.
Pesquisadores encontraram exemplos de geradores de imagens de empresas como OpenAI e Microsoft produzindo fotos com desinformação relacionada às eleições, apesar das políticas contra esse tipo de conteúdo.
As empresas de IA têm “obrigações fracas” de compartilhar informações com os governos sobre as capacidades e limitações de seus sistemas, disse a carta, acrescentando que essas empresas não podem ser confiadas para compartilhar essas informações voluntariamente.
A carta aberta é a mais recente a levantar preocupações de segurança em torno da tecnologia de IA generativa, que pode produzir rapidamente e de forma barata texto, imagens e áudio semelhantes aos humanos.
O grupo instou as empresas de IA a facilitar um processo para que atuais e ex-funcionários levantem preocupações relacionadas a riscos e não imponham acordos de confidencialidade que proíbam críticas.
Separadamente, a empresa liderada por Sam Altman disse na quinta-feira (30) que interrompeu cinco operações secretas de influência que tentaram usar seus modelos de inteligência artificial para “atividades enganosas” em toda a internet.
Leia também:
Este post foi modificado pela última vez em 4 de junho de 2024 15:10
A Amazon Prime Video está recebendo um novo recurso alimentado por IA generativa para ajudá-lo…
A empresa de busca com inteligência artificial (IA) Perplexity está testando a ideia de usar…
A gigante de energia dos Emirados Árabes Unidos, ADNOC, aplicará inteligência artificial (IA) altamente autônoma…
A Anthropic acabou de lançar o suporte a PDF para seu modelo Claude 3.5 Sonnet…
O Google está adicionando uma extensão do Google Home ao aplicativo Gemini, permitindo que você…
A Walt Disney está formando um novo grupo para coordenar o uso da empresa de…