IA: Ameaça de extinção ou oportunidade? Relatório encomendado pelo Departamento de Estado dos EUA acende alertas

O relatório, divulgado pela Gladstone AI, afirma que os sistemas de inteligência artificial mais avançados poderiam, na pior das hipóteses, “representar uma ameaça de extinção para a espécie humana”.

Baseado em entrevistas com mais de 200 especialistas, incluindo CEOs de empresas de IA, o relatório destaca dois perigos principais:

1. Armas de IA:

• Sistemas de IA podem ser transformados em armas para infligir danos irreversíveis.
• Há o risco de uma “corrida armamentista” de IA, levando a conflitos e acidentes em escala de armas de destruição em massa (ADM).

2. Perda de controle:

• Preocupação de que os laboratórios de IA possam “perder o controle” dos sistemas que estão desenvolvendo.
• Sistemas de IA podem se tornar “incontroláveis” e buscar poder, tornando-se adversários dos humanos.

O relatório pede medidas urgentes, incluindo:

• Criação de uma nova agência de IA.
• Implementação de salvaguardas regulatórias de “emergência”.
• Limites na quantidade de energia de computação para treinar modelos de IA.

O relatório também destaca a necessidade de cooperação internacional para gerenciar os riscos da IA. Embora o potencial da IA seja empolgante, os perigos reais não podem ser ignorados.

Leia também: