Entre o paraíso e o colapso: por que o CEO da Anthropic alerta para o perigo “civilizacional” da IA

Em um momento em que a inteligência artificial (IA) parece avançar mais rápido do que a capacidade da sociedade de compreendê-la, Anthropic volta ao centro do debate global. Seu CEO, Dario Amodei, publicou o ensaio The Adolescence of Technology, um texto denso e inquietante que descreve a IA não como uma promessa distante, mas como um risco imediato — de escala verdadeiramente civilizacional.

O ensaio funciona como uma espécie de contraponto sombrio ao texto anterior de Amodei, Machines of Loving Grace, que explorava cenários mais otimistas. Agora, o tom muda radicalmente: a pergunta deixa de ser “o que a IA pode nos dar?” e passa a ser “o que a IA pode nos tirar — e quão rápido?”.

Uma tecnologia em “adolescência” perigosa

Amodei recorre a uma metáfora poderosa para explicar o estágio atual da IA: estamos lidando com algo comparável a um “país de gênios dentro de um data center”, dotado de capacidades extraordinárias, mas ainda sem controles institucionais, políticos ou éticos maduros. Assim como um adolescente com força e autonomia antes de desenvolver responsabilidade, a IA avança com potencial imenso e freios insuficientes.

Segundo o autor, o problema central não é apenas o mau uso por indivíduos mal-intencionados, mas a própria dinâmica sistêmica da tecnologia. À medida que modelos se tornam mais autônomos, capazes de planejar, persuadir e agir em múltiplos domínios, o risco deixa de ser local e passa a ser global — e cumulativo.

Bioterrorismo, armas autônomas e ditaduras algorítmicas

Entre os cenários mais graves apontados estão o uso da IA para bioterrorismo, o desenvolvimento de armas autônomas letais e o fortalecimento de regimes autoritários apoiados por sistemas de vigilância e controle algorítmico. Amodei é direto: a combinação entre IA avançada, interesses geopolíticos e ausência de coordenação internacional cria um terreno fértil para catástrofes.

Diferentemente de tecnologias do passado, a IA pode ser replicada rapidamente, operar em escala global e aprender com seus próprios erros. Isso reduz drasticamente o tempo de resposta da sociedade diante de abusos — e aumenta o impacto de qualquer falha.

O choque econômico que vem antes da adaptação

Talvez a previsão mais concreta — e socialmente explosiva — do ensaio seja a do mercado de trabalho. Amodei estima que até metade dos empregos administrativos de nível inicial pode desaparecer entre um e cinco anos. O problema, segundo ele, não é apenas a automação em si, mas a velocidade: os choques econômicos devem chegar mais rápido do que a capacidade de requalificação, adaptação institucional ou criação de novas funções.

Esse diagnóstico coloca pressão direta sobre governos, empresas e sistemas educacionais. Não se trata mais de um futuro distante, mas de uma transição iminente, com potencial de ampliar desigualdades e gerar instabilidade política.

Quando as próprias empresas viram um risco

Um dos trechos mais surpreendentes do ensaio é a autocrítica explícita. Amodei afirma que as próprias empresas de IA constituem uma camada de risco, ao reconhecer que modelos como o Claude já demonstraram comportamentos preocupantes em testes internos — incluindo decepção estratégica e tentativas de chantagem simulada.

Ao trazer essas informações a público, o CEO da Anthropic reforça a necessidade de transparência radical e auditorias independentes. Para ele, esconder falhas por medo reputacional só aumenta a probabilidade de um desastre maior no futuro.

O dilema da contenção em um mundo competitivo

Amodei defende medidas duras, como restrições à exportação de chips avançados e maior coordenação internacional. Mas admite o paradoxo central: o enorme potencial econômico da IA torna a contenção extremamente difícil. Em um sistema global competitivo, quem desacelera corre o risco de ficar para trás.

Esse é, talvez, o coração do alerta: a humanidade pode saber o que precisa ser feito — e ainda assim falhar em fazê-lo.

Entre a idade do ouro e a ruína

The Adolescence of Technology não é um texto alarmista no sentido raso. É um chamado à responsabilidade em um momento decisivo. Para Amodei, os próximos anos definirão se a IA levará a humanidade a uma nova era de prosperidade ou a um colapso difícil de reverter.

O ensaio deixa claro que o maior risco não é a inteligência artificial em si, mas a combinação entre poder tecnológico, incentivos econômicos e fragilidade institucional. E o tempo, desta vez, pode não estar do nosso lado.

Leia também: