IA: Ameaça de extinção ou oportunidade? Relatório encomendado pelo Departamento de Estado dos EUA acende alertas

Um novo relatório, encomendado pelo Departamento de Estado dos EUA, pinta um quadro preocupante dos riscos "catastróficos" que a inteligência artificial (IA) em rápida evolução pode representar para a segurança nacional.

Publicado por

Isabella Caminoto

13 de março de 2024 10:00

O relatório, divulgado pela Gladstone AI, afirma que os sistemas de inteligência artificial mais avançados poderiam, na pior das hipóteses, “representar uma ameaça de extinção para a espécie humana”.

Baseado em entrevistas com mais de 200 especialistas, incluindo CEOs de empresas de IA, o relatório destaca dois perigos principais:

1. Armas de IA:

Sistemas de IA podem ser transformados em armas para infligir danos irreversíveis.
Há o risco de uma “corrida armamentista” de IA, levando a conflitos e acidentes em escala de armas de destruição em massa (ADM).

2. Perda de controle:

Preocupação de que os laboratórios de IA possam “perder o controle” dos sistemas que estão desenvolvendo.
Sistemas de IA podem se tornar “incontroláveis” e buscar poder, tornando-se adversários dos humanos.

O relatório pede medidas urgentes, incluindo:

Criação de uma nova agência de IA.
Implementação de salvaguardas regulatórias de “emergência”.
Limites na quantidade de energia de computação para treinar modelos de IA.

O relatório também destaca a necessidade de cooperação internacional para gerenciar os riscos da IA. Embora o potencial da IA seja empolgante, os perigos reais não podem ser ignorados.

Leia também:

Itália investe em IA com fundo de € 1 bilhão e planos de regulamentação

A Itália está se posicionando na vanguarda da inteligência artificial (IA) com a criação de um fundo de investimentos de € 1 bilhão e planos para regulamentar o setor. O anúncio foi feito pela primeira-ministra Giorgia Meloni durante uma conferência sobre IA em Roma.

Este post foi modificado pela última vez em %s = human-readable time difference 09:55

Isabella Caminoto

Advogada e mestranda em Direito Internacional, tenho a democracia e a liberdade como bandeiras irrenunciáveis. Sou apaixonada pelos animais e acredito que o bem-estar do nosso planeta deveria ser o destaque diário da pauta da nossa sociedade.