O relatório, divulgado pela Gladstone AI, afirma que os sistemas de inteligência artificial mais avançados poderiam, na pior das hipóteses, “representar uma ameaça de extinção para a espécie humana”.
PUBLICIDADE
Baseado em entrevistas com mais de 200 especialistas, incluindo CEOs de empresas de IA, o relatório destaca dois perigos principais:
1. Armas de IA:
- Sistemas de IA podem ser transformados em armas para infligir danos irreversíveis.
- Há o risco de uma “corrida armamentista” de IA, levando a conflitos e acidentes em escala de armas de destruição em massa (ADM).
2. Perda de controle:
- Preocupação de que os laboratórios de IA possam “perder o controle” dos sistemas que estão desenvolvendo.
- Sistemas de IA podem se tornar “incontroláveis” e buscar poder, tornando-se adversários dos humanos.
O relatório pede medidas urgentes, incluindo:
- Criação de uma nova agência de IA.
- Implementação de salvaguardas regulatórias de “emergência”.
- Limites na quantidade de energia de computação para treinar modelos de IA.
O relatório também destaca a necessidade de cooperação internacional para gerenciar os riscos da IA. Embora o potencial da IA seja empolgante, os perigos reais não podem ser ignorados.
Leia também:
