Um grupo de atuais e ex-funcionários de empresas de inteligência artificial (IA) – incluindo a startup apoiada pela Microsoft, a OpenAI e a DeepMind do Google – levantaram novas preocupações na terça-feira (4) sobre os riscos apresentados pela tecnologia emergente.
PUBLICIDADE
Uma carta aberta de um grupo de 11 atuais e ex-funcionários da OpenAI e um atual e outro ex-funcionário da Google DeepMind disse que os motivos financeiros das empresas de IA dificultam a supervisão eficaz.
“Não acreditamos que estruturas especiais de governança corporativa sejam suficientes para mudar isso”, acrescentou a carta.
Ele ainda alerta para os riscos da IA não regulamentada, que vão desde a disseminação de desinformação até a perda de sistemas de IA independentes e aprofundamento das desigualdades existentes, o que poderia resultar em “extinção humana”.
PUBLICIDADE
Pesquisadores encontraram exemplos de geradores de imagens de empresas como OpenAI e Microsoft produzindo fotos com desinformação relacionada às eleições, apesar das políticas contra esse tipo de conteúdo.
As empresas de IA têm “obrigações fracas” de compartilhar informações com os governos sobre as capacidades e limitações de seus sistemas, disse a carta, acrescentando que essas empresas não podem ser confiadas para compartilhar essas informações voluntariamente.
A carta aberta é a mais recente a levantar preocupações de segurança em torno da tecnologia de IA generativa, que pode produzir rapidamente e de forma barata texto, imagens e áudio semelhantes aos humanos.
PUBLICIDADE
O grupo instou as empresas de IA a facilitar um processo para que atuais e ex-funcionários levantem preocupações relacionadas a riscos e não imponham acordos de confidencialidade que proíbam críticas.
Separadamente, a empresa liderada por Sam Altman disse na quinta-feira (30) que interrompeu cinco operações secretas de influência que tentaram usar seus modelos de inteligência artificial para “atividades enganosas” em toda a internet.
Leia também:
