Análise | A Conta Chegou: Avaliações Revelam Falhas Críticas na Gestão de Riscos de IAs Líderes

Duas novas pesquisas publicadas pelas organizações sem fins lucrativos SaferAI e Future of Life Institute (FLI) revelaram que gigantes da inteligência artificial (IA) como OpenAI, Meta e xAI apresentam “práticas de risco inaceitáveis”. Os estudos apontam para uma “flagrante falta de compromisso com muitas áreas da segurança” entre as principais empresas de IA, levantando preocupações sérias sobre os riscos inerentes aos modelos atuais e futuros da tecnologia.

Os Resultados Alarmantes da SaferAI

A SaferAI focou sua análise nos protocolos de gestão de riscos das empresas, também conhecidos como políticas de escalonamento responsável. Nenhuma empresa conseguiu uma pontuação superior a “fraca” em maturidade de gestão de riscos. A Anthropic, com 35%, obteve a pontuação mais alta, seguida por OpenAI (33%), Meta (22%), Google DeepMind (20%) e xAI (18%).

É particularmente preocupante que a Anthropic e o Google DeepMind tenham visto suas pontuações declinarem em comparação com o primeiro estudo de outubro de 2024. A queda do Google foi atribuída à “falta de compromissos sólidos em suas políticas”, apesar de sua pesquisa em segurança. O lançamento do Gemini 2.5 sem compartilhar informações de segurança foi citado como uma “falha gritante”. A Anthropic, por sua vez, removeu compromissos para lidar com ameaças internas antes do lançamento dos modelos Claude 4, o que impactou negativamente sua pontuação. Embora xAI e Meta tenham mostrado alguma melhora, suas pontuações continuam baixas, indicando que a evolução é lenta e insuficiente.

A Perspectiva Abrangente do FLI

O estudo do FLI adotou uma abordagem mais ampla, examinando não apenas a gestão de riscos, mas também o manejo de danos atuais, a segurança existencial, a governança e o compartilhamento de informações. A avaliação, conduzida por um painel de seis especialistas independentes, resultou em notas baixas para todas as empresas. Anthropic obteve a nota mais alta (C+), seguida por OpenAI (C) e Google (C-). xAI e Meta ficaram com um D.

A maior preocupação do FLI reside na categoria de “segurança existencial”, onde todas as empresas receberam D ou menos. Max Tegmark, presidente do FLI, expressou alarme com o fato de que empresas que visam construir máquinas superinteligentes “não têm um plano claro para controlá-las”.

Lacunas e Urgências

Os resultados desses estudos são um sinal de alerta inequívoco. As baixas pontuações e a ausência de um compromisso robusto com a segurança revelam uma desconexão perigosa entre a ambição de desenvolver IA avançada e a responsabilidade de mitigar seus riscos. A reclassificação para baixo de empresas anteriormente mais bem avaliadas, como Anthropic e Google DeepMind no estudo SaferAI, sugere uma deterioração nas práticas de segurança ou uma maior rigidez nas metodologias de avaliação, o que é igualmente preocupante.

A falta de transparência, evidenciada pela liberação do Gemini 2.5 sem detalhes de segurança, e a remoção de compromissos importantes por parte da Anthropic, demonstram que a autorregulação, por si só, pode não ser suficiente. A ênfase na “segurança existencial” pelo FLI ressoa com preocupações crescentes de que, à medida que a IA se torna mais poderosa, a capacidade de controlá-la diminui, o que pode ter consequências catastróficas.

O Caminho a Seguir

Para a comunidade de IA e para a sociedade em geral, esses estudos sublinham a necessidade urgente de:

• Compromissos Concretos e Vinculativos: As empresas precisam ir além de políticas vagas e adotar compromissos claros, auditáveis e com responsabilidades definidas.
• Transparência Aumentada: O compartilhamento de informações de segurança e as avaliações de risco devem ser padrões antes do lançamento de modelos significativos.
• Supervisão Independente e Regulamentação: A dependência da autorregulação tem se mostrado insuficiente. É crucial que órgãos independentes e reguladores estabeleçam e fiscalizem padrões de segurança rigorosos.
• Priorização da Segurança Existencial: É imperativo que as empresas, juntamente com a comunidade de pesquisa, desenvolvam estratégias tangíveis para o controle e a segurança de futuras IAs superinteligentes.

Apesar de algumas melhorias pontuais, o cenário geral é sombrio. A indústria de IA está em um ponto crítico, onde o avanço tecnológico deve ser indissociável de uma gestão de riscos robusta e de um compromisso inabalável com a segurança. Sem isso, o potencial transformador da IA pode ser ofuscado por ameaças que ainda não compreendemos totalmente.

Leia também: